インシデント 609: Google検索の欠陥AIが地理情報に関して誤った情報を提供していると報道

概要:

Googleの検索AIは、アフリカの国名が「K」で始まる国がないと誤って判定したほか、地理や文字に基づく様々な質問に対しても誤判定を行い、不正確な強調スニペットでユーザーを誘導しました。このインシデントはChatGPTによって作成された投稿をGoogleが不正確にスクレイピングしたもので、AI生成コンテンツと検索結果における誤情報の問題を浮き彫りにし、情報源としてのGoogleの信頼性を損なうものです。

Editor Notes: Incident 609 is occasionally being referenced in reports associated with Incident 693.

ツール

新しいレポート新しいレスポンス発見する履歴を表示

組織

すべての組織を表示

Alleged: Google と ChatGPT developed an AI system deployed by Google, which harmed General public.

インシデントのステータス

インシデントID

609

レポート数

インシデント発生日

2023-08-16

エディタ

Daniel Atherton

Applied Taxonomies

MIT

MIT 分類法のクラス

Machine-Classified

分類法の詳細

Risk Subdomain

3.1. False or misleading information

Risk Domain

Misinformation

Entity

Timing

Post-deployment

Intent

Unintentional

インシデントレポート

レポートタイムライン

AI Search Is Turning Into the Problem Everyone Worried About

theatlantic.com

Google’s Search AI Is Absolutely Horrible at Geography

futurism.com

theatlantic.com · 2023

There is no easy way to explain the sum of Google’s knowledge. It is ever-expanding. Endless. A growing web of hundreds of billions of websites, more data than even 100,000 of the most expensive iPhones mashed together could possibly store.…

futurism.com · 2023

Google's AI-powered search doesn't understand geography. Or, apparently, the alphabet. And definitely not both at the same time.

It all started when a Bluesky user declared that Google is now "dead." They included a screenshot of Google's f…

バリアント

「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください

似たようなものを見つけましたか？