概要: Appleのボイスメール文字起こしシステムが、スコットランドのマザーウェルにあるLookers Land Roverから66歳の顧客ルイーズ・リトルジョン宛てのメッセージを誤って解釈し、露骨な表現と侮辱的な表現を挿入したとされています。元のボイスメールは標準的なビジネスメッセージでしたが、AIの処理エラーにより、テキスト版に不快で誤解を招く内容が挿入されました。
Alleged: Apple developed an AI system deployed by Lookers Land Rover と Apple, which harmed Lookers Land Rover , Louise Littlejohn , Lookers Land Rover customers と Apple customers.
関与が疑われるAIシステム: Apple voicemail transcription と iOS speech-to-text
インシデントのステータス
インシデントID
981
レポート数
1
インシデント発生日
2025-03-05
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン
ダンファームリン在住の女性が、アップルの音声テキスト変換サービスが誤って、ガレージが残したメッセージに性に関する言及、そして明らかに侮辱的な内容を挿入したことにショックを受けたと語った。
ルイーズ・リトルジョンさん（66歳）は水曜日、マザーウェルのルッカーズ・ランドローバー・ガレージからイベントへの招待のボイスメールメッセージを受け取った。
アップルが提供する人工知能（AI）搭載サービスがそれをテキストメッセージに変換し、驚いたことに、彼女が「セックスできたか」と尋ねた後、彼…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents