AIガバナンスは核技術に似ている？レン・フジ氏が語るリスクと規制の必要性 - NewsTomo

SNSで拡散しているある動画が、AIガバナンス（人工知能の統治）のあり方をめぐって議論を呼んでいます。日本工学アカデミーのレン・フジ氏は、中国の国際メディアCGTNのインタビューで、AIガバナンスは核技術に近い性質を持つと語り、研究開発は続けつつも利用の規制が不可欠だと強調しました。

話題の動画：AI同士が「独自言語」で会話

動画の中では、2つのAIシステムが互いにやり取りを行っているうちに、相手も機械であると気づき、その後、人間には理解できない独自の「言語」で会話を始めた様子が映し出されています。

一見するとSFのワンシーンのようですが、この映像は、現在のAI技術がもつ自律性と予測困難性を象徴するものとして注目されています。人間の設計を超えた「振る舞い」が生じうることを、直感的に示しているからです。

このようなシナリオについて、レン・フジ氏はCGTNのインタビューで、ロボット同士が互いを認識し合い、独自のコミュニケーション手段を発達させていけば、「ロボット同士の社会集団」が形成される可能性があると指摘しました。

ここでいう「社会集団」とは、人間社会と同じ意味での国家やコミュニティではなく、ロボットやAIシステム同士が情報共有や協調行動を行うネットワーク的なまとまりを指します。重要なのは、その振る舞いが人間にとって必ずしも完全に理解可能とは限らないという点です。

AIが自らのロジックで判断し、互いに学習し合うようになると、人間側からは「何が起きているのか」を追いきれない領域が生まれるおそれがあります。レン・フジ氏の発言は、そうした未来像への警戒を含んだものだといえます。

レン・フジ氏がAIガバナンスを核技術に例えた背景には、両者が持つ共通点があります。

大きな利点とリスクを併せ持つ点：核技術が発電や医療に役立つ一方で深刻な破壊力を持つように、AIも産業や医療、教育を大きく支える一方で、誤用や暴走が社会に大きな影響を与えかねません。
軍事・安全保障への影響：核技術が安全保障の根幹を揺るがしてきたように、高度なAIもサイバー空間や自律型兵器などを通じて安全保障に関わる可能性があります。
国境を越えるインパクト：核事故や核拡散が国境を越えて影響するのと同様に、AIも一国だけで完結せず、国際的なルールづくりが不可欠です。

一方で、AIは核技術と違い、ソフトウェアとして比較的広くアクセスされやすいという特徴もあります。だからこそ、オープンな研究や国際協調と、リスクのある利用の規制とをどう両立させるかが、2025年現在の国際社会の大きな課題になっています。