インシデント 693の引用情報

レスポンスしました
Description: Google's AI search engine has reportedly been providing users with confidently incorrect and often harmful information. Reports highlight numerous inaccuracies, including misleading health advice and dangerous cooking suggestions. For example, it has falsely claimed Barack Obama as the first Muslim U.S. President, reflecting fringe conspiracy theories, or recommending that glue can be an ingredient in pizza.
Editor Notes: Reports about Incident 693 occasionally reference reports associated with Incident 609.
推定: Googleが開発し提供したAIシステムで、Google users General publicに影響を与えた

インシデントのステータス

インシデントID
693
レポート数
7
インシデント発生日
2024-05-14
エディタ
Daniel Atherton
Applied Taxonomies
GoogleのGeminiビデオ検索のデモで事実誤認
theverge.com · 2024

Google は本日の I/O カンファレンスで Gemini AI が検索を制覇 と大々的に宣伝しましたが、最も派手なデモの 1 つでは、これまでのすべての大規模言語モデルに常に存在する致命的な欠陥、つまり自信を持って間違った答えをでっち上げることが再び目立ちました。

「Gemini 時代の検索」のシズル リールで、Google はビデオ検索のデモを行いました。これは、ビデオ クリップに話しかけて検索できるものです。例として、フィルム カメラのフィルム送りレバーが動かなくな…

translated-ja-Google promised a better search experience — now it’s telling us to put glue on our pizza
theverge.com · 2024

translated-ja-Imagine this: you've carved out an evening to unwind and decide to make a homemade pizza. You assemble your pie, throw it in the oven, and are excited to start eating. But once you get ready to take a bite of your oily creatio…

GoogleのAI検索機��能は、ピザにチーズをくっつけるために接着剤を使うことを提案した
businessinsider.com · 2024

Google の新しい検索機能である AI Overviews は、うまくいっていないようだ。

AI が生成した検索結果の要約を表示するこのツールは、ユーザーが「チーズがピザにくっつかない」と検索したときに、ピザに接着剤を塗るよう指示したようだ。

X で 共有 された要約のスクリーンショットには、「チーズはさまざまな理由でピザから滑り落ちることがあります」と返答し、ユーザーは「ソースに約 1/8 カップの無毒の接着剤を追加して、粘着性を高めてください」と回答している。

Goo…

translated-ja-Google’s AI Is Churning Out a Deluge of Completely Inaccurate, Totally Confident Garbage
futurism.com · 2024

translated-ja-Google's AI search, which swallows up web results and delivers them to users in a regurgitated package, delivers each of its AI-paraphrased answers to user queries in a concise, coolly confident tone. Just one tiny problem: it…

Google の AI がピザに接着剤を混ぜることを推奨する理由
washingtonpost.com · 2024

おそらく、新しい形態の人工知能は石のように愚かである可能性があると感じているでしょう。

Google の新しい AI からの笑えるほど間違った情報は、それがいかに愚かであるかを示しています。

Google の AI は最近、検索結果で ピザの材料に接着剤を混ぜる と提案しました。そうすればチーズが滑り落ちません (これはしないでください)。以前は 尿をたくさん飲む と腎臓結石を排出するのに役立つと述べていました。 (これはやらないでください。Google はこれを修正したと言…

GoogleのAI検索エラーがネット上で大騒ぎに
nytimes.com · 2024

先週、Googleは数年ぶりに検索に大きな変更を加え、ライバルのMicrosoftやOpenAIに追いつこうとする同社の試みの一環として、人々の質問に答える新しい人工知能機能を紹介

この新技術はその後、ピザのレシピに接着剤を推奨したり、栄養分として岩石を摂取したりするなど、数々の虚偽や誤りを生み出し、Googleの評判を落とし、ネット上で大騒ぎを引き起こした。

「AI概要」と呼ばれるこの機能の誤った回答は、20億人以上の人々が信頼できる情報を求めて頼る検索エンジンへの信頼を…

translated-ja-Google Rolls Back A.I. Search Feature After Flubs and Flaws
nytimes.com · 2024
Nico Grantによるインシデント後のレスポンス

translated-ja-When Sundar Pichai, Google's chief executive, introduced a generative artificial intelligence feature for the company's search engine last month, he and his colleagues demonstrated the new capability with six text-based querie…

バリアント

「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください