Description: Google's AI Overview feature mistakenly advised parents to use human feces in a potty training exercise, misinterpreting a method that uses shaving cream or peanut butter as a substitute. This incident is another example of an AI failure in grasping contextual nuances that can lead to potentially harmful, and in this case unsanitary, recommendations. Google has acknowledged the error.
Alleged: Google developed an AI system deployed by Google と AI Overview, which harmed Google , Parents と Google users.
インシデントのステータス
インシデントID
791
レポート数
1
インシデント発生日
2024-09-09
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン
futurism.com · 2024
- 情報源として元のレポートを表示
- インターネットアーカイブでレポートを表示
親は子供に教訓を与えるために人間の排泄物を風船に塗るべきでしょうか? Google の AI 概要は、そうすべきだと答えています。
子供のトイレトレーニング戦略に関する Google 検索では、同社の「AI 概要」検索機能から、風船にうんちを塗るようアドバイスする提案が繰り返し返されました (あらかじめお詫びしますが)。
「トイレトレーニング中にうんちを拭くことを教える方法」という検索を考えてみましょう。これは、子供のおむつ離れに苦労している親にとってはまったく理にかなったク…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents