概要: ムンバイ在住のビジネスマン、KT・ヴィノド氏は、ドバイ駐在インド大使館の代表者を名乗る人物から息子が逮捕されたという電話を受け、8万ルピーを失ったと報じられています。犯人はAI音声生成技術を用いてヴィノド氏の息子の声を模倣し、助けを求めていたとされています。緊急性を確信したヴィノド氏は、Google Payで送金を指示しました。この詐欺が発覚したのは、ヴィノド氏が息子に直接連絡を取った後のことでした。
Editor Notes: This incident is reported to have occurred on 03/30/2024. It was added to the database on 05/03/2025.
Alleged: Unknown deepfake technology developers と Unknown voice cloning technology developers developed an AI system deployed by Unknown scammers, which harmed General public of India , Mumbai businessman と Son of Mumbai businessman.
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
4.3. Fraud, scams, and targeted manipulation
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Malicious Actors & Misuse
Entity
Which, if any, entity is presented as the main cause of the risk
Human
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Intentional
インシデントレポート
レポートタイムライン
Loading...
ムンバイ：ポーワイ在住の68歳のビジネスマンが、人工知能（AI）による音声クローン詐欺の被害に遭い、8万ルピーの損失を被った。この詐欺は、ドバイ駐在のインド大使館を装った偽の電話によるもので、KT・ヴィノド氏の43歳の息子が3月30日に逮捕され、終身刑に直面しているという虚偽の主張がされていた。
ヴィノド氏の告訴に基づき水曜日にこの事件を受理したカンジュルマルグ警察によると、詐欺師は電話で息子の声を流し、保釈を懇願していたという。
このビジネスマンは3月30日午後12時45分…
Loading...
ムンバイで最近発生した事件は、AI音声複製詐欺の脅威の高まりを浮き彫りにしました。ビジネスマンのヴィノド氏は、息子とドバイ駐在インド大使館の職員を装った詐欺師に騙され、8万ルピーを失いました。この事件は、こうした詐欺の巧妙さと警戒の重要性を改めて認識させるものです。
AI音声複製とは？
AI音声複製技術により、詐欺師は人の声を忠実に再現した複製を作成できます。これらの複製は、友人、家族、さらには権威ある人物になりすますために使用され、本物の電話と偽物の電話を見分けることがます…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents