概要: ワシントン州免許局にスペイン語を選択した電話をかけた人が数ヶ月間、実際のスペイン語サービスではなく、AIが生成したスペイン語訛りの英語の応答を受けていたと報じられています。同局は謝罪し、スタッフの構成上の誤りが原因で、言語サポートを求める電話をかけた人にとってアクセシビリティの問題が生じていたと述べています。
Alleged: Amazon developed an AI system deployed by Washington State Department of Licensing と Amazon, which harmed Spanish language speakers , General public of Washington State と General public.
関与が疑われるAIシステム: Polly
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
1.3. Unequal performance across groups
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Discrimination and Toxicity
Entity
Which, if any, entity is presented as the main cause of the risk
Human
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Unintentional
インシデントレポート
レポートタイムライン
Loading...
昨年の夏、マヤ・エドワーズさんとご主人は、スペイン語で話せる担当者と話そうとワシントン州免許局に電話をかけました。
ところが、スペイン語のセルフサービスオプションを選んだところ、最初に聞こえてきたのはスペイン語ではなく、ヒスパニック訛りの英語を話す自動音声でした。
「AIや自動システムの普及を考えると、全く予想外でしたが、全く驚くことでもないかもしれません」とエドワーズさんは言います。「でも、誰も確認しなかったことが一番驚きです。」
キトサップ郡在住のエドワーズさんは、先週T…
Loading...
ワシントン州免許局(DOL)の自動音声応答システムでスペイン語での案内を求めた電話が、英語(しかも訛りのある英語)の音声案内に切り替わったため、同局は問題調査のため、この機能を一時的に停止した。
同局によると、コールセンターの営業時間など、一般的な質問に対する録音音声による回答を提供するセルフサービス機能に最近不具合が見つかったという。この自動音声メニューは、営業時間外に10か国語で情報を提供するように設計されている。
昨年夏に拡散したTikTok動画が、この不具合を明るみに…
Loading...