レポート 3899

先週、Googleは数年ぶりに検索に大きな変更を加え、ライバルのMicrosoftやOpenAIに追いつこうとする同社の試みの一環として、人々の質問に答える新しい人工知能機能を紹介。

この新技術はその後、ピザのレシピに接着剤を推奨したり、栄養分として岩石を摂取したりするなど、数々の虚偽や誤りを生み出し、Googleの評判を落とし、ネット上で大騒ぎを引き起こした。

「AI概要」と呼ばれるこの機能の誤った回答は、20億人以上の人々が信頼できる情報を求めて頼る検索エンジンへの信頼を損ねた。そして、他のAIは、人々がより速く、より速く、より速く、より速く検索できるようにすることを目標としている。チャットボットは嘘をつき、奇妙な行動をとるため、この反発は、Googleが検索エンジンにAIを安全に組み込むよう、より強いプレッシャーを受けていることを示している。

今回のリリースは、Googleが最新のAI機能を導入した直後に問題を抱えるというパターンをさらに広げるものだ。2023年2月、GoogleはChatGPTに対抗するチャットボット「Bard」を発表した際、宇宙に関する誤った情報を共有した。その後、同社の時価総額は1,000億ドル下落した。

今年2月、同社は「Bardの後継となるGemini」をリリースした。これは、画像を生成し、音声操作のデジタルアシスタントとして機能するチャットボットである。ユーザーはすぐに、システムがほとんどの場合に白人の画像の生成を拒否し、歴史上の人物の描写が不正確であることに気付いた。

テクノロジー業界関係者は、こうした失敗のたびに同社が失敗したと批判してきた。しかし、インタビューで金融アナリストは、たとえ成長痛を伴うとしても、Googleはライバルに追いつくために迅速に行動する必要があると述べた。

Investing.comのGoogleアナリスト、トーマス・モンテイロ氏はインタビューで、「Googleには現時点で選択の余地はない」と述べた。「企業は、途中でいくつかのステップを飛ばすことになっても、本当に迅速に行動する必要がある。ユーザーエクスペリエンスが追いつくしかない」。

Googleの広報担当者ララ・レビン氏は声明で、AIオーバービュークエリの大半は「ウェブ上でさらに深く掘り下げるためのリンクを含む、高品質の情報」をもたらしたと述べた。このツールから AI が生成した結果は、通常、結果ページの上部に表示されます。

「私たちが目にした例の多くは珍しいクエリであり、改ざんされた例や再現できない例も見てきました」と彼女は付け加えました。同社は、問題のある回答の「孤立した例」を使用してシステムを改良します。

OpenAI が 2022 年後半に ChatGPT チャットボットをリリースし、一夜にして大ヒットして以来、Google は人気アプリに AI を統合するようプレッシャーを受けています。しかし、従来のソフトウェアのようにプログラムされるのではなく、虚偽や風刺的な投稿を含むオープン ウェブから取得した膨大な量のデータから学習する大規模な言語モデルを制御するのは困難です。

（ニューヨークタイムズは12月、OpenAIとそのパートナーであるマイクロソフトを、AIシステムに関連するニュースコンテンツの著作権侵害を主張して訴訟起こした。）

Googleは先週、年次開発者会議I/OでAI Overviewを華々しく発表した。同社は初めて、最新の大規模言語AIモデルであるGeminiを、最も重要な製品である検索エンジンに組み込んだ。

AI Overviewは、言語モデルから生成されたステートメントと、ウェブ上のライブリンクからのスニペットを組み合わせる。ソースを引用することはできるが、そのソースが間違っているかどうかはわからない。

このシステムは、通常の検索よりも複雑で具体的な質問に答えられるように設計された。同社によると、その結果、一般の人々はGeminiの機能の恩恵を受けることができ、情報検索の手間が軽減されるという。

しかし事態はすぐに悪化し、ユーザーは問題のある例のスクリーンショットをXなどのソーシャルメディアプラットフォームに投稿しました。

AI Overviewは、チーズが滑り落ちないようにピザソースに無毒の接着剤を混ぜるよう一部のユーザーに指示しましたが、これは冗談のつもりで11年前のRedditの投稿から借用した偽のレシピのようです。AIは他のユーザーに、ビタミンとミネラルのために1日に少なくとも1つの石を摂取するように指示しました。これはThe Onionの風刺的な投稿に由来するアドバイスです。

同社のドル箱であるGoogle検索は「Googleが関連性/信頼性/有用性を保つために必要な唯一の資産」だと、テクノロジーに関するニュースレター「Pragmatic Engineer」のソフトウェアエンジニアであるGergely Orosz氏はXに書いている。「しかし、AIの概要がGoogle検索をゴミに変えている例は、私のタイムラインのいたるところに見られる」

また、太字のフォントで「塩素系漂白剤と白酢」を使って洗濯機を掃除するようにとユーザーに指示する例も共有された。この混合物は、混ぜると有害な塩素ガスを発生させる可能性がある。小さなフォントでは、ユーザーに1つで掃除してからもう1つで掃除するように指示している。

ソーシャルメディアのユーザーは、誰がGoogleからの最も突飛な回答を共有できるかで互いに競い合っている。場合によっては、結果を改ざんした。ある操作されたスクリーンショットには、うつ病に良い治療法はゴールデンゲートブリッジから飛び降りることだとGoogleが言っているように見え、Redditユーザーの言葉を引用している。グーグルの広報担当者レビン氏は、同社のシステムがそのような結果を返したことは一度もないと述べた。

しかし、Xに投稿されたスクリーンショットによると、AIオーバービューは大統領の歴史について苦戦し、17人の大統領は白人であり、バラク・オバマはイスラム教徒初の大統領であると述べた。

また、アンドリュー・ジャクソンは2005年に大学を卒業したとも述べた。

ケビン・ルースがレポートに協力した。

2024年5月24日に訂正が行われた：この記事の以前のバージョンでは、同社の新しい人工知能ツールAIオーバービューからのGoogleの結果を誤って参照していた。ソーシャルメディアのコメント投稿者は、うつ病に関する検索の結果に、治療法としてゴールデンゲートブリッジから飛び降りることが提案されたと主張した。その結果は偽造であり、実際の結果には一度も表示されなかったとグーグルの広報担当者は述べた。