概要: ワシントン州キング郡の町、ベリアンにあるハイライン公立学校の生徒2名が、ディープフェイクを使った誘拐詐欺の標的になったと報じられています。詐欺師たちはAIによる音声複製技術を用いて、生徒2名の声を本物らしく模倣しました。そして、その改変された声を使って、生徒2名が誘拐されたと虚偽の主張をし、身代金を要求しました。
Alleged: Unknown voice cloning technology developer と Unknown deepfake technology developer developed an AI system deployed by scammers と Fraudsters, which harmed Highline Public Schools と Families of Highline Public Schools.
関与が疑われるAIシステム: Unknown voice cloning technology
インシデントのステータス
インシデントID
947
レポート数
1
インシデント発生日
2024-09-25
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン
ハイラインコミュニティの2人が誘拐詐欺の標的になったと報告しています。私たちは家族とスタッフが警戒を怠らず安全に過ごせるよう、情報を共有しています。
どちらの事件も、詐欺師が家族を誘拐したと嘘の主張をしていました。詐欺師はAI（人工知能）で家族の音声を録音し、身代金を要求しました。連邦捜査局（FBI）は、このような詐欺が全国的に増加しており、特に英語以外の言語を話す家族に狙いを定めていると指摘しています。
詐欺師は通常、異なる市外局番の電話番号を使用し、被害者が電話を切らない…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents