AI頼みの夏の読書リスト、存在しない本を掲載米新聞社で波紋 - NewsTomo

米国の新聞向けに配布された夏の読書リストに、実在しない本が多数含まれていたことが明らかになり、生成AIの安易な利用があらためてメディアの信頼性を揺さぶっています。

夏の読書特集に「存在しない本」

米国のコンテンツ配信会社King Featuresは、夏の読書特集で架空の書籍を紹介した記事をめぐり、担当したフリーライターとの契約を打ち切ったと明らかにしました。この特集は、米新聞社向けの別刷り「Heat Index: Your Guide to the Best of Summer」として作成され、シカゴ・サンタイムズとフィラデルフィア・インクワイアラーの日曜版に掲載されました。

特集内の「夏のおすすめ読書リスト」には実在する本も含まれていましたが、著者のマルコ・ブスカリア氏によると、リストに挙げられた本の半数以上が実在しない作品でした。ブスカリア氏は、リサーチの補助として生成AIを使いながら、その内容を十分に確認しなかったと認め、フェイスブックで「本当に愚かなミスだった」と投稿しています。

King Featuresは声明で、「今回の夏の別刷りは、AIを使って記事を作成したにもかかわらず、その利用を開示しなかったフリーランスの制作者によって作られた」と説明し、自社はAIによるコンテンツ生成を禁じる厳格な方針を持っていると強調しました。問題の別刷りを実際に使用していたのは、シカゴ・サンタイムズとフィラデルフィア・インクワイアラーのみだとしています。

本物の作家、架空の作品

リストには、実在の作家名と組み合わされた架空のタイトルも含まれていました。例えば、作家アンディ・ウィアの新作として紹介された『The Last Algorithm』は、「AIシステムが自我を獲得し、密かに世界の出来事に影響を与えていることに気づいたプログラマーを描く、科学色の強いスリラー」と説明されていましたが、実際には存在しない作品です。

同様に、ミン・ジン・リーの新作とされた『Nightshade Market』も架空の作品でした。特集では「ソウルの地下経済を舞台にしたスリリングな物語」とされていましたが、リー氏はSNSのXで「『Nightshade Market』という小説は書いておらず、今後書く予定もない」と否定しています。

AIショートカットが招くメディアの信頼不安

この問題は、テクノロジー系メディア404 Mediaが最初に報じましたが、AIに安易に頼った結果、ニュースメディアが信用を損なう事例はこれが初めてではありません。2023年には、スポーツ・イラストレイテッドが、自社サイトに掲載した商品レビュー記事で、実在しない著者名を使っていたことが発覚しています。また、米ニュース大手ガネットも、スポーツ記事の自動生成にAIを試験導入していましたが、誤りが見つかり、運用を一時停止せざるをえませんでした。

「AIのせい」にできない、人間側の責任

今回のケースは、生成AIがもっともらしい誤情報を生み出すリスクを象徴していますが、同時に問われているのは人間側のチェック体制です。ブスカリア氏は、自身の確認不足を認めていますが、記事を配信・掲載する段階で、編集側による事実確認が十分だったのかという疑問も残ります。

少なくとも、メディアがAIツールを活用する際には、次のような最低限のルールが重要だと考えられます。

AIが提示した書名や著者名などの事実情報は、必ず一次情報や公式サイトで裏取りする。
AI利用の有無や範囲を社内で共有し、必要に応じて読者にも明示する。
人間の編集者が、内容の妥当性と表現を最終的に確認するプロセスを省略しない。

読者側にとっても、「新聞や雑誌に載っているから正しい」とは限らない時代になりつつあります。AI時代のニュース消費では、出典や文脈に少しだけ注意を払うことが、自分の情報環境を守る一歩になりそうです。今回の「存在しない夏の読書リスト」は、メディアとAIの付き合い方を見直すきっかけとして受け止めるべき出来事だと言えるでしょう。