ヨハネスブルグ/ロンドン発 ―
ベス・ハイランドさんは、Tinderで運命の人に出会ったと思っていました。
実際には、ミシガン州在住の事務員である彼女は、オンライン詐欺師に騙されていました。詐欺師は「リチャード」というフランス人男性を装い、スカイプ通話でディープフェイク動画を使用し、別の男性の写真を投稿して詐欺を実行していました。
ディープフェイクとは、人工知能（AI）を用いて本物らしく聞こえるように加工された動画や音声のことですが、特殊なツールがなければ見破るのが難しい場合が多いです。
わずか数ヶ月で、53歳のハイランドさんは2万6000ドルの融資を受け、そのお金をリチャードさんに送金しました。そして、詐欺師が被害者を搾取する典型的な手法にちなんで「ロマンスベイティング」または「豚の屠殺」と呼ばれる行為の餌食となりました。
英国政府によると、2023年の50万件から、2025年には世界中で共有されるディープフェイクの数は800万件に増加すると予測されています。
サイバーセキュリティ企業マカフィーの1月の報告書によると、これらのうち約5分の1はロマンス詐欺に該当するという。
「まるで死を悼むような感じです」とハイランドさんは語った。
「ビデオで彼の顔を見た時、彼が送ってきた写真と全く同じでした。少しぼやけていましたが、ディープフェイクのことは知りませんでした」と彼女は語った。
ハイランドさんはデトロイトの西約230キロにあるポーティジに住んでおり、離婚から4年後に再び交際を始めた。
彼女はTinderで、自分のプロフィールとよく似ている男性とマッチングした。
今、彼女はこの「完璧な出会い」は仕組まれたものだった可能性が高いと述べている。
リチャードさんはパリ生まれだがインディアナ州に住み、カタールを含む多くの出張を伴う建設会社でフリーランスのプロジェクトマネージャーとして働いていたという。
その後数ヶ月にわたり、感情操作、嘘、偽の写真、AIで操作されたSkype通話が行われた。詐欺師は永遠の愛を誓ったものの、会う機会を逃す理由は山ほどあった。
マッチングから数週間後、リチャードはハイランドを説得し、カタールで弁護士と通訳を雇う費用を払うために彼女の助けが必要だと告げた。
「ローンを組むつもりだと伝えると、彼は泣き出し、『こんなに愛された人は今までいない』と言いました」とハイランドはオンラインインタビューで語った。
しかし、リチャードはさらにお金を要求し続け、ハイランドがようやくファイナンシャルアドバイザーに事情を打ち明けると、アドバイザーは彼女がロマンス詐欺の被害者である可能性が高いと告げた。
「信じられませんでしたが、無視することもできませんでした」とハイランドは語った。
彼女はリチャードに詰め寄った。リチャードは当初全てを否定したが、ハイランドが「彼女の間違いを証明して」お金を返せと要求すると、口を閉ざした。
ポーテージの公安局長からの手紙によると、警察はハイランドに対し、「強制、脅迫、または暴力行為 は関与していない」ため、これ以上事件を捜査できないと告げた。
警察と消防の両方を監督する公安局は、コメント要請に応じなかった。
ハイランド氏が詐欺師のアカウントをTinderに報告した後に送られたメールの中で、Tinderは利用規約やガイドラインに違反するユーザーを削除すると説明していた。
Tinderは、プライバシー上の理由から調査結果を公表できないとしながらも、ハイランド氏の報告は「評価」され、「当社のポリシーに従って対応した」と述べている。
Tinderの広報担当者は、同社は詐欺師に対して「ゼロトレランス（一切容認しない）」の姿勢を貫き、AIを用いて潜在的な詐欺師を特定し、ユーザーに警告するとともに、ロマンス詐欺に関するファクトシートも提供していると述べた。
3月、ハイランド氏は、出会い系アプリに対し詐欺師の削除と偽アカウントとやり取りしたユーザーへの通知を義務付ける法案が提出された際、米国上院委員会の公聴会に出席した。
法案を提案した上院議員は、ハイランド氏の事例が、なぜこの法律が必要なのかを示していると述べた。
一般的に、出会い系アプリは、詐欺師とやり取りしたユーザーに、詐欺師のアカウントが削除された後も通知したり、詐欺の回避方法に関する警告を出したりしていません。これは、提案されている新法案で義務付けられているものです。
FBIによると、米国では2023年に豚の屠殺詐欺による損失が40億ドルを超えると報告されています。
Skypeを所有するマイクロソフトは、ロマンス詐欺の防止方法や、画像への透かしの追加など、AI生成コンテンツへの対策についてユーザーに情報を 提供するブログ記事への問い合わせを促しました。
同社はこれ以上のコメントを提供しませんでした。
レクシスネクシス・リスク・ソリューションズの詐欺・アイデンティティ担当ディレクター、ジェイソン・レーン＝セラーズ氏は、詐欺の報告はわずか7%で、被害者は羞恥心から躊躇してしまうことが多いと述べています。
オランダに拠点を置く消費者保護団体、グローバル・アンチ・スカム・アライアンスのマネージングディレクター、ヨリ・アブラハム氏は、人間が操作されたメディアを見抜くことができるのは、そう長くは続かないだろうと述べています。
「2、3年後には、AI対AIの戦いになるだろう」と彼は述べた。
「（会話を追跡できるソフトウェアは存在する。目の動きや瞬きなどを見れば、人間には見えない何かが起こっている証拠となるが、ソフトウェアなら見ることができるのだ。」
レクシスネクシス・リスク・ソリューションズのレーン＝セラーズ氏は、これを詐欺師と、消費者や企業を守ろうとする詐欺対策企業との間のAI「軍拡競争」と表現した。
イングランド北部サルフォード・ビジネススクールのAI専門家、リチャード・ウィットル氏は、将来的には、ユーザーのウェブカメラにアクセスできるApple、Google、Microsoftなどのハードウェアメーカーがディープフェイク検出技術を組み込むようになると予想している。
AppleとGoogleは、ディープフェイクから消費者をどのように守っているのか、また将来の製品開発についてコメントを求めたが、回答は得られなかった。
アブラハム氏は、真の課題は詐欺師を捕まえることだと述べ、彼らはしば しば標的の国とは異なる国で活動していると述べた。
行き詰まりに陥ったにもかかわらず、ハイランドさんは詐欺を報告し、当局による詐欺師の取り締まりに協力することは良いことだと信じている。
そして、詐欺の被害者には、それは彼らのせいではないことを知ってほしいと願っている。
「私は専門用語を学びました。私たちは（お金を）失ったり、あげたりしているのではなく、盗まれているのです。私たちは詐欺に騙されているのではなく、操られ、被害者になっているのです。」