概要: タコベルの音声認識ドライブスルーシステムは、いたずら者が1万8000個のウォーターカップを注文したことで過負荷状態になり、AIが会話の途中で停止し、スタッフが介入せざるを得なくなったと報じられています。誤解釈を繰り返した動画が拡散したとされ、参加店舗全体で顧客の不満と業務の混乱が高まったため、同社はシステムの導入場所と時期を再検討するに至りました。
Alleged: Taco Bell と Omilia developed an AI system deployed by Taco Bell, which harmed Taco Bell customers.
関与が疑われるAIシステム: Omilia voice-AI drive-thru ordering system
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
7.3. Lack of capability or robustness
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- AI system safety, failures, and limitations
Entity
Which, if any, entity is presented as the main cause of the risk
AI
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Unintentional
インシデントレポート
レポートタイムライン
Loading...
タコベルの大胆なAIドライブスルー実験は、ネット荒らしによって欠陥が露呈し、行き詰まった。ある人物が1万8000個の水のカップを注文するといういたずらが拡散し、ファストフード大手はハイテク展開の再考を迫られたのだ。
私がマイアミで学生だった頃、ドライブスルーでタコベルを注文した時のことを覚えています(「昔」です)。
私のイギリス訛りが、注文を受けたラテン系の女性を混乱させ、カリカリのタコスがチキンケサディーヤになってしまったのです。私は気にしませんでしたが、少し戸惑っただけで…
Loading...

タコベルは、AIのミスを描いたコミカルな動画が数百万回も視聴されたことを受け、米国のドライブスルーレストランにおけるAI活用を再検討している。
ある動画では、客が1万8000個の水を注文してシステムをクラッシュさせたかに見えた。また別の動画では、AIが注文に飲み物を追加するよう繰り返し促す客の怒りが高まっている。
このファストフードチェーンは、ミスを減らし注文処理を迅速化することを目的として、2023年以降、米国の500以上の店舗でこの技術を導入している。
しかし、AIは全く…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか?
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents


