Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる

インシデント 693: Google AI Reportedly Delivering Confidently Incorrect and Harmful Information

レスポンスしました
概要: Google's AI search engine has reportedly been providing users with confidently incorrect and often harmful information. Reports highlight numerous inaccuracies, including misleading health advice and dangerous cooking suggestions. For example, it has falsely claimed Barack Obama as the first Muslim U.S. President, reflecting fringe conspiracy theories, or recommending that glue can be an ingredient in pizza.
Editor Notes: Reports about Incident 693 occasionally reference reports associated with Incident 609.

ツール

新しいレポート新しいレポート新しいレスポンス新しいレスポンス発見する発見する履歴を表示履歴を表示

組織

すべての組織を表示
推定: Googleが開発し提供したAIシステムで、Google users と General publicに影響を与えた

インシデントのステータス

インシデントID
693
レポート数
7
インシデント発生日
2024-05-14
エディタ
Daniel Atherton
Applied Taxonomies
MIT

MIT 分類法のクラス

Machine-Classified
分類法の詳細

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

3.1. False or misleading information

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Misinformation

Entity

Which, if any, entity is presented as the main cause of the risk
 

AI

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Unintentional

インシデントレポート

レポートタイムライン

+1
GoogleのGeminiビデオ検索のデモで事実誤認
+1
Google promised a better search experience — now it’s telling us to put glue on our pizza
+2
Google’s AI Is Churning Out a Deluge of Completely Inaccurate, Totally Confident Garbage
Google Rolls Back A.I. Search Feature After Flubs and Flaws - レスポンス
GoogleのGeminiビデオ検索のデモで事実誤認

GoogleのGeminiビデオ検索のデモで事実誤認

theverge.com

Google promised a better search experience — now it’s telling us to put glue on our pizza

Google promised a better search experience — now it’s telling us to put glue on our pizza

theverge.com

GoogleのAI検索機能は、ピザにチーズをくっつけるために接着剤を使うことを提案した

GoogleのAI検索機能は、ピザにチーズをくっつけるために接着剤を使うことを提案した

businessinsider.com

Google’s AI Is Churning Out a Deluge of Completely Inaccurate, Totally Confident Garbage

Google’s AI Is Churning Out a Deluge of Completely Inaccurate, Totally Confident Garbage

futurism.com

Google の AI がピザに接着剤を混ぜることを推奨する理由

Google の AI がピザに接着剤を混ぜることを推奨する理由

washingtonpost.com

GoogleのAI検索エラーがネット上で大騒ぎに

GoogleのAI検索エラーがネット上で大騒ぎに

nytimes.com

Google Rolls Back A.I. Search Feature After Flubs and Flaws

Google Rolls Back A.I. Search Feature After Flubs and Flaws

nytimes.com

GoogleのGeminiビデオ検索のデモで事実誤認
theverge.com · 2024
自動翻訳済み

Google は本日の I/O カンファレンスで Gemini AI が検索を制覇 と大々的に宣伝しましたが、最も派手なデモの 1 つでは、これまでのすべての大規模言語モデルに常に存在する致命的な欠陥、つまり自信を持って間違った答えをでっち上げることが再び目立ちました。

「Gemini 時代の検索」のシズル リールで、Google はビデオ検索のデモを行いました。これは、ビデオ クリップに話しかけて検索できるものです。例として、フィルム カメラのフィルム送りレバーが動かなくな…

Google promised a better search experience — now it’s telling us to put glue on our pizza
theverge.com · 2024

Imagine this: you've carved out an evening to unwind and decide to make a homemade pizza. You assemble your pie, throw it in the oven, and are excited to start eating. But once you get ready to take a bite of your oily creation, you run int…

GoogleのAI検索機能は、ピザにチーズをくっつけるために接着剤を使うことを提案した
businessinsider.com · 2024
自動翻訳済み

Google の新しい検索機能である AI Overviews は、うまくいっていないようだ。

AI が生成した検索結果の要約を表示するこのツールは、ユーザーが「チーズがピザにくっつかない」と検索したときに、ピザに接着剤を塗るよう指示したようだ。

X で 共有 された要約のスクリーンショットには、「チーズはさまざまな理由でピザから滑り落ちることがあります」と返答し、ユーザーは「ソースに約 1/8 カップの無毒の接着剤を追加して、粘着性を高めてください」と回答している。

Goo…

Google’s AI Is Churning Out a Deluge of Completely Inaccurate, Totally Confident Garbage
futurism.com · 2024

Google's AI search, which swallows up web results and delivers them to users in a regurgitated package, delivers each of its AI-paraphrased answers to user queries in a concise, coolly confident tone. Just one tiny problem: it's wrong. A lo…

Google の AI がピザに接着剤を混ぜることを推奨する理由
washingtonpost.com · 2024
自動翻訳済み

おそらく、新しい形態の人工知能は石のように愚かである可能性があると感じているでしょう。

Google の新しい AI からの笑えるほど間違った情報は、それがいかに愚かであるかを示しています。

Google の AI は最近、検索結果で ピザの材料に接着剤を混ぜる と提案しました。そうすればチーズが滑り落ちません (これはしないでください)。以前は 尿をたくさん飲む と腎臓結石を排出するのに役立つと述べていました。 (これはやらないでください。Google はこれを修正したと言…

GoogleのAI検索エラーがネット上で大騒ぎに
nytimes.com · 2024
自動翻訳済み

先週、Googleは数年ぶりに検索に大きな変更を加え、ライバルのMicrosoftやOpenAIに追いつこうとする同社の試みの一環として、人々の質問に答える新しい人工知能機能を紹介。

この新技術はその後、ピザのレシピに接着剤を推奨したり、栄養分として岩石を摂取したりするなど、数々の虚偽や誤りを生み出し、Googleの評判を落とし、ネット上で大騒ぎを引き起こした。

「AI概要」と呼ばれるこの機能の誤った回答は、20億人以上の人々が信頼できる情報を求めて頼る検索エンジンへの信頼を…

Google Rolls Back A.I. Search Feature After Flubs and Flaws
nytimes.com · 2024
Nico Grantによるインシデント後のレスポンス

When Sundar Pichai, Google's chief executive, introduced a generative artificial intelligence feature for the company's search engine last month, he and his colleagues demonstrated the new capability with six text-based queries that the pub…

バリアント

「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください

よく似たインシデント

Selected by our editors
Flawed AI in Google Search Reportedly Misinforms about Geography

AI Search Is Turning Into the Problem Everyone Worried About

Aug 2023 · 2 レポート
前のインシデント次のインシデント

よく似たインシデント

Selected by our editors
Flawed AI in Google Search Reportedly Misinforms about Geography

AI Search Is Turning Into the Problem Everyone Worried About

Aug 2023 · 2 レポート

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 1420c8e