インシデントのステータス
Risk Subdomain
7.3. Lack of capability or robustness
Risk Domain
- AI system safety, failures, and limitations
Entity
AI
Timing
Post-deployment
Intent
Unintentional
インシデントレポート
レポートタイムライン
1世紀以上で最も革新的なテクノロジーが、ついに限界に達したのかもしれない。それは、タコスの注文だ。
タコベルは昨年から500以上のドライブスルー店舗で音声AIによる注文システムを導入してきたが、今や全ての顧客がこの新技術を気に入っているわけではないことに気づき始めている。
不具合や遅延についてソーシャルメディアで不満を訴える人もいれば、単に奇妙に感じる人もいる。中には「水1万8000杯ください」といった注文でシステムをからかう人もいる。
「正直に言って、私たちは多くのことを学…
タコベルの大胆なAIドライブスルー実験は、ネット荒らしによって欠陥が露呈し、行き詰まった。ある人物が1万8000個の水のカップを注文するといういたずらが拡散し、ファストフード大手はハイテク展開の再考を迫られたのだ。
私がマイアミで学生だった頃、ドライブスルーでタコベルを注文した時のことを覚えています(「昔」です)。
私のイギリス訛りが、注文を受けたラテン系の女性を混乱させ、カリカリのタコスがチキンケサディーヤになってしまったのです。私は気にしませんでしたが、少し戸惑っただけで…

タコベルは、AIのミスを描いたコミカルな動画が数百万回も視聴されたことを受け、米国のドライブスルーレストランにおけるAI活用を再検討している。
ある動画では、客が1万8000個の水を注文してシステムをクラッシュさせたかに見えた。また別の動画では、AIが注文に飲み物を追加するよう繰り返し促す客の怒りが高まっている。
このファストフードチェーンは、ミスを減らし注文処理を迅速化することを目的として、2023年以降、米国の500以上の店舗でこの技術を導入している。
しかし、AIは全く…
バリアント
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents


