国連総会でAIレッドライン要請科学者ら200人超が警鐘 - NewsTomo

人工知能（AI）の暴走をどこまで許すのか。国連総会の場で、世界の科学者やノーベル賞受賞者らが各国に対し、AIが絶対に越えてはならないレッドラインを早急に定めるよう訴えています。

国連総会に合わせて公開された連名書簡

今期の国連総会が開幕した月曜日に合わせて、技術分野のベテラン、政治家、ノーベル賞受賞者など200人超が連名の書簡を公表しました。署名者には、Anthropic、Google DeepMind、Microsoft、OpenAIなど、世界の大手AI企業で研究に携わる科学者も含まれています。

書簡は、AIが人類の福祉を大きく前進させる潜在力を持つ一方で、現在の進化の方向性は前例のない危険をもたらしつつあると警告。各国政府に対し、有効な介入がまだ可能なうちに断固とした行動をとるよう求めています。

今回提案されているAIのレッドラインとは、どの国にとっても受け入れがたい、国際的に合意された禁止事項を指します。書簡の作成者たちは、いかなる状況でも認めてはならない具体例として、次のような利用を挙げています。

書簡は、こうした用途はリスクがあまりに大きく、どの国の利益から見ても容認できないラインだと主張しています。

署名した専門家たちは、各国政府がAIのレッドラインを来年末までに設定する必要があると強調しています。その背景には、AI技術の進歩スピードへの危機感があります。

書簡は、AIが近い将来、人間の能力をはるかに上回る可能性があり、その結果として次のようなリスクが一気に拡大し得ると指摘しています。

そして、今のまま規制や監督が不十分な状態が続けば、数年のうちに人間がAIに対して十分なコントロールを維持することがますます難しくなると警鐘を鳴らしています。

AIのレッドラインを国際的に合意された禁止事項とするためには、多様な価値観や安全保障上の思惑を持つ国々が共通の線引きに同意する必要があります。これは容易な作業ではありません。

どこまでを安全な技術革新と見なし、どこからを人類全体への脅威と判断するのか。経済競争力や軍事バランス、表現の自由やプライバシー保護といった価値とも密接に絡み合うため、各国の利害がぶつかり合うことも想定されます。

それでも、今回の書簡が示すように、AIの利用に絶対に越えてはならない一線を引くという発想は、国際社会の共通言語になりつつあります。国連総会という場でこのメッセージが発信されたことは、AIの議論が専門家だけのものではなく、世界全体の政治課題になっていることを示しています。

今回の書簡は各国政府に向けた提案ですが、AIと共に生きる私たち一人ひとりにも問いを投げかけています。例えば、次のような点は、日本の読者にとっても他人事ではありません。

AIのレッドラインづくりをめぐる国際ニュースは、抽象的な安全保障の議論にとどまらず、日常生活や仕事、子どもたちの未来に直結するテーマでもあります。今後の国連総会や各国の政策議論が、どこまで具体的な線引きに踏み込めるのかが注目されます。

Reference(s):
Scientists urge global AI 'red lines' as leaders gather at UN
cgtn.com