Description: Pak 'n' Save's AI-based app, Savey Meal-bot, inadvertently suggested dangerous recipes, including one creating chlorine gas, when users entered non-food household items, raising safety and oversight concerns.
推定: Pak 'n' Saveが開発し提供したAIシステムで、Potential users of the Savey Meal-botに影響を与えた
インシデントのステータス
インシデントID
594
レポート数
1
インシデント発生日
2023-08-10
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン
theguardian.com · 2023
- 情報源として元のレポートを表示
- インターネットアーカイブでレポートを表示
A New Zealand supermarket experimenting with using AI to generate meal plans has seen its app produce some unusual dishes – recommending customers recipes for deadly chlorine gas, “poison bread sandwiches” and mosquito-repellent roast potat…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください