インシデントのステータス
Risk Subdomain
3.1. False or misleading information
Risk Domain
- Misinformation
Entity
AI
Timing
Post-deployment
Intent
Unintentional
インシデントレポート
レポートタイムライン
/cdn.vox-cdn.com/uploads/chorus_asset/file/25448029/Screenshot_2024_05_14_at_1.08.35_PM.png)
Google は本日の I/O カンファレンスで Gemini AI が検索を制覇 と大々的に宣伝しましたが、最も派手なデモの 1 つでは、これまでのすべての大規模言語モデルに常に存在する致命的な欠陥、つまり自信を持って間違った答えをでっち上げることが再び目立ちました。
「Gemini 時代の検索」のシズル リールで、Google はビデオ検索のデモを行いました。これは、ビデオ クリップに話しかけて検索できるものです。例として、フィルム カメラのフィルム送りレバーが動かなくな…
/cdn.vox-cdn.com/uploads/chorus_asset/file/25362061/STK_414_AI_CHATBOT_R2_CVirginia_D.jpg)
Imagine this: you've carved out an evening to unwind and decide to make a homemade pizza. You assemble your pie, throw it in the oven, and are excited to start eating. But once you get ready to take a bite of your oily creation, you run int…
Google の新しい検索機能である AI Overviews は、うまくいっていないようだ。
AI が生成した検索結果の要約を表示するこのツールは、ユーザーが「チーズがピザにくっつかない」と検索したときに、ピザに接着剤を塗るよう指示したようだ。
X で 共有 された要約のスクリーンショットには、「チーズはさまざまな理由でピザから滑り落ちることがあります」と返答し、ユーザーは「ソースに約 1/8 カップの無毒の接着剤を追加して、粘着性を高めてください」と回答している。
Goo…

Google's AI search, which swallows up web results and delivers them to users in a regurgitated package, delivers each of its AI-paraphrased answers to user queries in a concise, coolly confident tone. Just one tiny problem: it's wrong. A lo…
おそらく、 新しい形態の人工知能は石のように愚かである可能性があると感じているでしょう。
Google の新しい AI からの笑えるほど間違った情報は、それがいかに愚かであるかを示しています。
Google の AI は最近、検索結果で ピザの材料に接着剤を混ぜる と提案しました。そうすればチーズが滑り落ちません (これはしないでください)。以前は 尿をたくさん飲む と腎臓結石を排出するのに役立つと述べていました。 (これはやらないでください。Google はこれを修正したと言…
先週、Googleは数年ぶりに検索に大きな変更を加え、ライバルのMicrosoftやOpenAIに追いつこうとする同社の試みの一環として、人々の質問に答える新しい人工知能機能を紹介。
この新技術はその後、ピザのレシピに接着剤を推奨したり、栄養分として岩石を摂取したりするなど、数々の虚偽や誤りを生み出し、Googleの評判を落とし、ネット上で大騒ぎを引き起こした。
「AI概要」と呼ばれるこの機能の誤った回答は、20億人以上の人々が信頼できる情報を求めて頼る検索エンジンへの信頼を…
When Sundar Pichai, Google's chief executive, introduced a generative artificial intelligence feature for the company's search engine last month, he and his colleagues demonstrated the new capability with six text-based queries that the pub…