ベス・ハイランドさんは、Tinderで運命の人に出会ったと思っていました。
実は、ミシガン州在住の事務員である彼女は、オンライン詐欺師に騙されていました。詐欺師は「リチャード」という名のフランス人男性を装い、スカイプ通話でディープフェイク動画を使用し、別の男性の写真を投稿して詐欺を実行したのです。
「ディープフェイク」とは、人工知能（AI）を用いて本物らしく加工された動画や音声のことです。特殊なツールがなければ、こうした詐欺を見抜くことは難しい場合が多い。
53歳のハイランド氏は、わずか数ヶ月で総額2万6000ドル（9万5497ディルハム）のローンを組んで「リチャード」氏に送金し、典型的なロマンス詐欺の餌食となった。
英国政府によると、2023年の50万件から、2025年には世界中で800万件のディープフェイクが共有されると予測されている。
サイバーセキュリティ企業マカフィーの1月のレポートによると、そのうち約5分の1はロマンス詐欺に該当するという。
「まるで死を悼むような気分だ」とハイランド氏は語った。 「ビデオで彼を見た時、彼が送ってきた写真と全く同じでした。少しぼやけていましたが、ディープフェイクのことは知りませんでした。」
操作と嘘
ハイランドさんはデトロイトの西約230キロにあるポーティジに住んでおり、離婚から4年経ってから再び交際を始めた。
彼女はTinderで、自分のプロフィールとよく似ている男性とマッチングした。
今、彼女はこの「完璧な出会い」は仕組まれたものだったと語っている。
「リチャード」はパリ生まれだが、インディアナ州に住み、カタールを含む出張の多い建設会社でフリーランスのプロジェクトマネージャーとして働いていた。
その後数ヶ月にわたり、感情操作、嘘、偽の写真、AIで加工されたSkype通話が続いた。詐欺師は永遠の愛を誓ったものの、会う機会を逃す理由は山ほどあった。
マッチングから数週間後、「リチャード」はカタールで弁護士と通訳を雇う費用を払うためにハイランドさんに助けを求めてきた。
「ローンを組むつもりだと彼に告げると、彼は泣き出し、『こんなに愛された人は今までいない』と言いました」とハイランドさんはオンラインインタビューで語った。
しかし、「リチャード」はさらにお金を要求し続け、ハイランドさんがようやくファイナンシャルアドバイザーに事情を打ち明けると、彼女はロマンス詐欺の被害 者である可能性が高いと告げられた。
「信じられませんでしたが、無視することもできませんでした」とハイランドさんは語った。
彼女は「リチャード」に立ち向かった。彼は当初全てを否定したが、ハイランド氏から「彼女の誤りを証明」して返金するよう求められると、口を閉ざした。
トムソン・ロイター財団が閲覧したポーテージ郡公安局長からの書簡によると、警察はハイランド氏に対し、「強制、脅迫、または暴力行為は関与していない」ため、これ以上捜査を進めることはできないと伝えた。
警察と消防の両方を監督する公安局は、コメント要請に応じなかった。
トムソン・ロイター財団が閲覧した、ハイランド氏が詐欺師のアカウントをTinderに報告した後に送られたメールの中で、同社は利用規約やガイドラインに違反するユーザーを削除していると述べている。
Tinderはプライバシー上の理由から捜査結果を公表できないとしたものの、ハイランド氏の報告は「評価」され、「当社のポリシーに従って対応」されたと述べた。
Tinderの広報担当者は、同社は詐欺師に対して「一切容認しない」姿勢を貫き、潜在的な詐欺師を根絶するためにAIを活用していると述べた。詐欺師を阻止し、ユーザーに警告します。同社はロマンス詐欺に関するファクトシートも提供しています。
3月、ハイランド氏は、出会い系アプリに対し詐欺師の削除と偽アカウントとやり取りしたユーザーへの通知を義務付ける法案が提出された際、米国上院委員会の公聴会に出席しました。
法案を提案した上院議員は、ハイランド氏の経験談がなぜこの法律が必要なのかを示してい ると述べました。
一般的に、出会い系アプリは、詐欺師のアカウントが削除された後、詐欺師と連絡を取ったユーザーに通知したり、詐欺の回避方法に関する警告を出したりしていません。これは提案されている新法案で義務付けられています。
FBIによると、米国では2023年にロマンス詐欺による損失が40億ドルを超えると報告されています。
Skypeを所有するマイクロソフトは、トムソン・ロイター財団に対し、ロマンス詐欺の防止方法をユーザーに知らせるブログ投稿や、画像への透かしの追加など、AI生成コンテンツへの対策について同社が講じた措置について閲覧するよう指示しました。
同社はこれ以上のコメントを提供しませんでした。
詐欺対策担当ディレクターのジェイソン・レーン＝セラーズ氏LexisNexis Risk Solutionsのセキュリティおよび個人情報保護担当のレーン・セラーズ氏は、詐欺の報告はわずか7%に過ぎず、被害者はしばしば羞恥心のために報告をためらっていると述べた。
「AIによる軍拡競争」
オランダに拠点を置く消費者保護団体、Global Anti-Scam Allianceのマネージングディレクター、ヨリ・アブラハム氏は、人間が操作されたメディアを見抜くことは長くは続かないと述べた。
「2、3年後には、AI対AIの戦いになるだろう」とアブラハム氏は述べた。
会話を追跡できるソフトウェアが存在する。目の動きや瞬きなどから、人間には見えない何かが起こっていることを示す兆候がソフトウェアにはわかるのだ。
LexisNexis Risk Solutionsのレーン・セラーズ氏は、これを詐欺師と、消費者や企業を守ろうとする詐欺対策企業との間のAIによる「軍拡競争」と表現した。
イングランド北部サルフォード・ビジネススクールのAI専門家、リチャード・ウィットル氏は、将来的にはAppleなどのハードウェアメーカーがディープフェイク検出技術を搭載するようになると予想している。 GoogleとMicrosoftは、ユーザーのウェブカメラにアクセスできる。
AppleとGoogleは、ディープフェイクから消費者をどのように保護しているか、また将来の製品開発についてコメントを求めたが、回答は得られなかった。
アブラハム氏は、真の課題は詐欺師を捕まえることだと述べた。詐欺師は、標的の国とは異なる国で活動していることが多いからだ。
ハイランド氏は、行き詰まりながらも、詐欺を報告し、当局による詐欺師の取り締まりを支援することは良いことだと信じている。
そして、彼女は詐欺の被害者に、それは彼らのせいではないことを知ってほしいと願っている。
「私は専門用語を学びました。私たちは（お金を）失ったり、あげたりしているのではなく、盗まれているのです。私たちは詐欺に引っかかっているのではありません。私たちは操られ、被害者になっているのです。」