推論する人工知能は予測不能に？イリヤ・スツケバー氏が語る次の段階 - NewsTomo

人工知能（AI）の発展をけん引してきた研究者の一人、元OpenAI主任科学者のイリヤ・スツケバー氏が、カナダ・バンクーバーで開かれた国際AI会議「NeurIPS」の講演で、「推論能力を備えた次世代AIは、いまよりはるかに予測しにくくなる」と警告しました。AI国際ニュースとしても重要なこの発言は、今後の技術開発や社会との付き合い方を考えるうえで大きな示唆を与えます。

「プリトレーニングは必ず終わる」──データの限界

スツケバー氏は、2014年にグーグルのオリオル・ビニャルス氏、クオック・レ氏と共著した論文が「Test Of Time」賞を受けたことをきっかけに登壇しました。約10年前、同氏らは「大量のデータでAIを事前学習（プリトレーニング）させれば、大きな性能向上が得られる」という発想を打ち出し、その路線の延長線上に、2022年に登場した対話型AI「ChatGPT」があります。

しかしスツケバー氏は、こうしたプリトレーニング中心のアプローチには限界が見え始めていると指摘します。計算資源（コンピュート）は増え続けているものの、「インターネットは一つしかない」ため、学習に使える良質なデータは無限ではないというのです。そのうえで、「現在のやり方によるプリトレーニングの時代は、間違いなく終わりを迎える」と言い切りました。

次のフロンティア：AI自身がデータを生み、答えを吟味する

では、その先の国際AI開発はどこへ向かうのでしょうか。スツケバー氏は講演で、いくつかの方向性を示しました。

AIシステム自身が新しいデータを生成し、それを使ってさらに賢くなること
一つの質問に対して複数の候補となる回答を出し、その中から最も良いものを選ぶ「自己吟味」の仕組みを強化すること
実世界から得られるデータをより活用すること（これは他の研究者たちも重視している方向性です）

こうした工夫によって、単に「たくさん読ませるAI」から、「自分で考え、検証しながら学ぶAI」へと変わっていくとみられます。

スーパ知能とAIエージェントの時代に訪れる「予測不能さ」

講演のクライマックスで、スツケバー氏は「将来、超高度な知能を持つ機械が登場することは明らかだ」と述べ、その未来像を語りました。同氏は今年、OpenAIでの経緯を経て、安全な超知能の実現を掲げる企業「Safe Superintelligence Inc」を共同設立しています。

同氏によれば、長年構想されてきたAIエージェント（自律的に行動するAIシステム）は、将来のスーパ知能の時代に本格的に実現し、人間に近いレベルの理解力や自己認識を持つようになるといいます。そうしたAIは、人間のように複雑な問題を推論して解くことができるようになりますが、そこで生じるのが「予測不能さ」です。

スツケバー氏は「AIが推論すればするほど、その振る舞いは予測しづらくなる」と説明します。膨大な選択肢を頭の中で試行錯誤したうえで結論に至るため、外から見ても、その一手がどのように生まれたのかを直感的に理解しにくくなるのです。