概要: ハンガリーのデータ保護当局は、ブダペスト銀行が顧客サービス通話の録音をAIで分析したシステムが、発信者と従業員のプライバシー権を侵害していると判断した。このシステムは感情を分析し、法的根拠や適切な通知・異議申し立ての保護措置なしに、折り返し電話の選定や従業員の評価に利用していた。当局は感情分析の中止を命じ、2億5000万フォリントの罰金を科した。
Editor Notes: 05/26/2017: Bank-reported implementation date, used as the onset proxy for the prolonged deployment. From 05/25/2018: Processing period examined under GDPR. 09/2021: NAIH launched proceedings. 02/08/2022: NAIH ordered changes and imposed a HUF 250 million fine. 04/05/2022: Telex reported the case. 10/22/2026: Incident ID created.
Alleged: AI-assisted call center software developers developed an AI system deployed by Budapest Bank と Banks, which harmed Budapest Bank callers , Bank customers , Budapest Bank customers , Budapest Bank call center employees , Call center workers , Privacy と Biometric data subjects.
関与が疑われるAIシステム: AI-assisted call center software , Emotion recognition systems と Enterprise AI systems
インシデントのステータス
インシデントID
1780
レポート数
2
インシデント発生日
2017-05-26
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン
Loading...
Hungarian National Authority for Data Protection and Freedom of Information, Nemzeti Adatvédelmi és Információszabadság Hatóság, Attila Péterfalviによるインシデント後のレスポンス
AIID編集者注: これは、提供された35ページの英語の判決文をAIで簡略化したものです。抽出されたテキストは50,000文字を超えています。冒頭の判決文と執行命令、遵守に関する段落、段落(1)、(2)の導入文と(i)、(4)の導入文と(xi)-(xii)、(39)-(51)、(60)-(64)、(71)、(85)-(103)（段落番号(95)の両方を含む）、日付、署名、および関連する脚注2、3、12を保持しています。その他の本文と脚注はすべて省略されています。省略範囲は以下…
Loading...
デロイトは声明の中で、NAIH（オランダ金融情報機関）が過去最高額の罰金を科したと発表した。この罰金は3月末に公表された年次報告書で明らかにされた。データ保護に関する罰金としては過去最高額であるだけでなく、人工知能の不正使用に対する罰金としては初めてとなる。
罰金を科されたのは、顧客の感情状態を自動的に処理するAI搭載ソフトウェアソリューションを使用していた銀行である。
この音声認識・評価システムは、顧客の気分に基づいて、どの顧客に電話をかけ直す必要があるかを判断していた。銀…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？