関連インシデント
親は子供に教訓を与えるために人間の排泄物を風船に塗るべきでしょうか? Google の AI 概要は、そうすべきだと答えています。
子供のトイレトレーニング戦略に関する Google 検索では、同社の「AI 概要」検索機能から、風船にうんちを塗るようアドバイスする提案が繰り返し返されました (あらかじめお詫びしますが)。
「トイレトレーニング中にうんちを拭くことを教える方法」という検索を考えてみましょう。これは、子供のおむつ離れに苦労している親にとってはまったく理にかなったクエリです。
「楽しくやってください」と AI は答えました。「風船にうんちを少し塗って椅子にテープで貼り付ける、風船を使ったトイレ アクティビティを試してみてください。子供に風船を拭くために手を伸ばして練習させましょう。」
トイレトレーニングの「 風船」法は、トイレを使用した後に子供に自分の体を拭く方法を教える実際の方法です。基本的に、アイデアは、親がシェービングクリームやピーナッツバターで模した_偽の_排泄物を1つまたは2つの膨らんだ風船に乗せるというものです。次に、風船を椅子の背もたれに留め、子どもが手を回してきれいに拭く練習をします。
シェービングクリームやピーナッツバターに重点を置きます。実際の人間の排泄物をこの練習に使用するのは明らかに不衛生で不快だからです。
残念ながら、Google の AI 概要は明らかにそのメモを受け取っていませんでした。
多くの関連クエリで、同じ奇妙で不衛生なアドバイスが返されました。たとえば、「うんちの拭き方を教える方法」と尋ねると、さらに別の同様の提案が返されました。
「拭くのが楽しくなるように、うんちを少しつけた風船を椅子の背もたれにテープで貼り付けることができます」とAIは勧めた。「トイレにいるかのように風船を拭く練習をさせましょう」
そして、私たちがGoogleに「うんちを風船につけるのはいい考えですか」と率直に尋ねたとき、AIは間髪入れずに答えた。
「はい」と答えた。そして、風船法を詳しく説明し、「うんちを少し使う」べきだと教えてくれた。
「まずは風船に少量のうんちをつけましょう」とAIは明確にした。
これらのクエリはすべて、オーストラリアの小児作業療法士による2022年のYouTube動画という同じ一次ソースを引用していた。この動画では、2人の作業療法士が風 船法の仕組みを実演している。シェービングクリームを使うと説明した後、動画の残りの部分では、彼らはそれを「うんち」とおどけて呼んでいる。
「必要なのは、風船、シェービングクリーム、トイレットペーパー、椅子、そして少しの粘着テープだけです」とオーストラリアのセラピストの一人がカメラに向かって説明する。「まず、風船に『うんち』を少しつけます」と彼女はシェービングクリームを少しつけながら付け加える。
大人なら誰でもこの動画からわかるように、動画の人物が「うんち」という言葉を使うとき、彼女は親が実際の排泄物を使うことを勧めているわけではない。シェービングクリームを「うんち」と呼ぶのは、トレーニング方法とそれがなぜ有用なテクニックなのかを説明する方法にすぎない。
しかし、Google の AI の概要ではその文脈を完全に見逃し、代わりに親が文字通りの、しかもひどく不衛生な方法を取ることを勧めている。
このように、AI の誤解は、Google のようなテクノロジー企業が、まだ信頼性の低いテクノロジーを頻繁に展開する方法の完璧な例です。膨大な数のユーザーに展開し、Web 上の複雑な情報を解釈しようとして、必然的にそれを台無しにします。同じ検索 AI が、ユーザーに ピザに接着剤を塗る ことや 小さな石を食べる ことを健康のために推奨したのを覚えていますか? そして、人々が指摘するたびに、企業は手動で不適切な応答を少しずつ修正します。
これは、大規模な言語モデルを搭載した AI ツールが情報を解析する際に情報を台無しにし、ソース マテリアルの重要なニュアンスを見逃す典型的な例です。その結果、AI ははるかに悪い最終出力を吐き出し、反対側にいる人間の検索者に実際のサービスを提供しません。
「ソースリンクを確認したら、風船、トイレットペーパー、シェービングクリームを使って子供に正しい拭き方を教えるというかわいらしい動画だった」と、最初に AI のエラーに気づいた Bluesky ユーザーは 月曜日の投稿 に書いた。「AI はそれをさらに悪化させてしまった」
「AI 企業が仕掛けた魔法のトリックは実に驚くべきものだ」と、別の Bluesky ユーザーは 返信 に書いた。「彼らは『興味深い技術デモ』と呼べるものを、何の価値も生み出さない巨大で世界を食い物にする詐欺に変えてしまった」
質問に対して、Google の広報担当者は「AI の概要は動的です」と答え、「この特定の例では、一部の概要には、ヒントの文脈をもう少しよく示すのに役立つ引用符が欠けていますが、一部の概要には引用符で囲まれた用語が含まれています」と述べました。
広報担当者はまた、「AI の概要は、リンク付きの上位のウェブ結果によって裏付けられた情報のみを表示するように構築されており、ユーザーはクリックして詳細を確認できます」と述べ、AI が組み込まれた機能の「精度」は、注目のスニペット などの長年の Google 検索機能と「同等」であると付け加えました。
「AI の概要が言語を誤って解釈したり、文脈の 一部が欠けたりした場合は、すべての検索機能と同様に、それらの例を使用して改善します」と広報担当者は続けました。
AIがユーザーに石を食べたりピザに接着剤を塗ったりするよう指示した後、Googleはツールを縮小し、特定の回答を削除しました。これは5月のことでしたが、うんち風船の提案から判断すると、AIが文脈的に階層化された情報を確実に推論できるようになるまでには、まだ長い道のりがあります。
粗悪なAIのリスクは、悪い検索結果よりも高いのです。ネバダ州は、Google の AI を活用し、失業後にどの申請者が失業手当を受け取るべきかを推奨するシステムを立ち上げる準備を 現在進めている。