Description: Two members of the Highline Public Schools community in Burien, a town in King County, Washington, were reportedly targeted in a deepfake kidnapping scam. Scammers used AI-generated voice cloning technology to convincingly mimic the voices of their family members. The scammers used the altered voices to falsely claim they had been kidnapped and demanding a ransom be paid.
Alleged: Unknown voice cloning technology developer と Unknown deepfake technology developer developed an AI system deployed by scammers と Fraudsters, which harmed Highline Public Schools と Families of Highline Public Schools.
関与が疑われるAIシステム: Unknown voice cloning technology
インシデントのステータス
インシデントID
947
レポート数
1
インシデント発生日
2024-09-25
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン
ハイラインコミュニティの2人が誘拐詐欺の標的になったと報告しています。私たちは家族とスタッフが警戒を怠らず安全に過ごせるよう、情報を共有しています。
どちらの事件も、詐欺師が家族を誘拐したと嘘の主張をしていました。詐欺師はAI（人工知能）で家族の音声を録音し、身代金を要求しました。連邦捜査局（FBI）は、このような詐欺が全国的に増加しており、特に英語以外の言語を話す家族に狙いを定めていると指摘しています。
詐欺師は通常、異なる市外局番の電話番号を使用し、被害者が電話を切らない…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents