大きな出来事が起こると、ほとんどの人は情報を探すためにGoogleに殺到します。そして、彼らが最初に目にするのはますます「AI概要」ですが、この機能は既に明らかな間違いを犯すという評判があります。 インドでの悲惨な飛行機墜落事故を受けて、GoogleのAI検索結果は、事故にエアバス機が関与したという誤情報を拡散しているが、実際にはボーイング787だった。
数年前に相次いだボーイング737シリーズの墜落事故を受けて、旅行者は最近、航空機のモデルに敏感になっている。エア・インディア171便墜落事故で200人以上の乗客乗員が死亡したとの報道もあり、今後数日間で航空機事故の検索は急増するだろう。 生成AIの仕組みにより、詳細情報を検索している一部のユーザーは、Googleの検索結果ページから誤った印象を受ける可能性があります。
すべての検索でAIによる回答が得られるわけではありませんが、Googleは昨年この機能を導入して以来、着実にこの機能を拡張しています。Redditのある検索ユーザーは、エアバス機の墜落事故を検索した際に、気がかりな作り話を発見しました。 AI Overviewsは、エア・インディアの墜落事故に関する報道結果に圧倒されたようで、自信満々に（そして誤って）エアバスA330が離陸直後に墜落したと発表しました。私たちも同様の検索結果をいくつか試してみましたが、AIの結果の中にはボーイングとするものもあれば、エアバスとするものもあり、中にはエアバスとボーイングを奇妙に組み合わせたものもありました。実に混乱しています。
しかし、なぜGoogleはエア・インディアの墜落事故をエアバスの文脈で取り上げるのでしょうか？残念ながら、AI Overviewsがボーイングを非難するのかエアバスを非難するのかは予測できません。生成AIは非決定論的であり、同じ入力であっても毎回出力が異なるからです。根本的な原因として考えられるのは、エア・インディアの墜落事故に関する多くの記事で、エアバスがボーイングの主要な競合相手として言及されていることでしょう。AI Overviewsは基本的にこれらの結果を要約しているだけであり、真実を理解する能力がないため、AIは誤った方向に進んでしまうのです。
Googleは、自社の生成AIツールが間違いを犯す可能性があることを隠していません。すべてのAI概要の下部には、「AIの回答には間違いが含まれる可能性があります」という免責事項が記載されています。ほぼすべてのAI製品に同様の文言がありますが、あまり目立たないため、自分の間違いを確信しているように見えるロボットと話しているユーザーは、この文言を無視してしまう可能性があります。幻覚が依然として蔓延している現状では、こうした警告だけでは不十分なのかもしれません。
今回のAI概要のエラーは、おそらくこの文脈では全く言及されたくないエアバスを激怒させる可能性があります。一方で、最近の航空機問題でかなりの評判低下に見舞われているボーイングにとっては、多少なりとも隠れ蓑となる可能性があります。
GoogleはArsに対し、この回答をAI概要から手動で削除したと述べています。同社の声明全文は次のとおりです。
「すべての検索機能と同様に、私たちは徹底的に改善を行い、このような事例を参考にシステムを更新しています。この回答は表示されなくなりました。私たちはすべての検索機能で高い品質基準を維持してお り、AI概要の精度は注目スニペットなどの他の機能と同等です。」
Googleからの声明を受けて6月12日に更新しました。