ベス・ハイランドさんは、Tinderで運命の人に出会ったと思っていました。
実際には、ミシガン州在住の事務員である彼女は、オンライン詐欺師に騙されていました。詐欺師は「リチャード」というフランス人男性を装い、スカイプ通話でディープフェイク動画を使用し、別の男性の写真を投稿して詐欺を実行していました。
「ディープフェイク」とは、人工知能（AI）を用いて本物らしく見えるように加工された動画や音声のことです。専用のツールがなければ、見破ることは難しい場合が多いです。
わずか数ヶ月で、53歳のハイランドさんは2万6000ドルのローンを借り、「リチャード」に送金し、典型的なロマンスベイティングの餌食になってしまいました。
英国政府によると、2023年の50万件から、2025年には世界中で800万件のディープフェイクが共有されると予測されています。サイバーセキュリティ企業マカフィーの1月の報告書によると、これらのうち約5分の1はロマンス詐欺に該当するという。
「まるで死を悼むような気持ちです」とハイランドさんはトムソン・ロイター財団に語った。
「ビデオで彼を見た時、彼が送ってきた写真と全く同じでした。少しぼやけていましたが、ディープフェイクのことは知りませんでした」と彼女は語った。
操作と嘘
ハイランドさんはデトロイトの西約230キロにあるポーティジに住んでおり、離婚から4年後に再び交際を始めた。
彼女はTinderで、自分のプロフィールとよく合う男性とマッチングした。
今、彼女はこの「完璧な出会い」は仕組まれたものだった可能性が高いと述べている。
「リチャード」はパリ生まれだがインディアナ州に住み、カタールを含む多くの出張を伴う建設会社でフリーランスのプロジェクトマネージャーとして働いていたという。
数ヶ月にわたる感情操作、嘘、偽写真、AIで操作されたSkype通話が続きました。詐欺師は永遠の愛を誓いましたが、会う約束をすべて破る理由をいくつも用意していました。
マッチングから数週間後、「リチャード」はカタールで弁護士と通訳を雇う費用を払うためにハイランドさんに助けが必要だと説得しました。
「ローンを組むつもりだと彼に告げると、彼は泣き出し、『こんなに愛された人は今までいない』と言いました」とハイランドさんはオンラインインタビューで語りました。
しかし、「リチャード 」はさらにお金を要求し続け、ハイランドさんがようやくファイナンシャルアドバイザーに事情を打ち明けると、アドバイザーは彼女がロマンス詐欺の被害者である可能性が高いと言いました。
「信じられませんでしたが、無視することもできませんでした」とハイランドさんは言います。
彼女は「リチャード」に詰め寄りました。彼は最初は全てを否定しましたが、ハイランドさんが「自分が間違っていることを証明して」お金を返してくれと頼むと、黙り込んでしまいました。
トムソン・ロイター財団が閲覧したポーテージ郡公安局長からの書簡によると、警察はハイランド氏に対し、「強制、脅迫、または暴力行為は関与していない」ため、彼女の事件をこれ以上追及できないと伝えた。
警察と消防の両方を監督する公安局は、コメント要請に応じなかった。
トムソン・ロイター財団が閲覧したハイランド氏が詐欺師のアカウントをTinderに報告した後にハイランド氏に送られたメールの中で、同社は利用規約やガイドラインに違反するユーザーを削除していると述べている。
Tinderは、プライバシー上の理由から調査結果を公表できないとしながらも、ハイランド氏の報告は「評価」され、「当社のポリシーに従って対応」されたと述べた。
Tinderの広報担当者は、同社は詐欺師に対して「一切容認しない」姿勢を貫いており、AIを用いて潜在的な詐欺師を特定し、ユーザーに警告するとともに、ロマンス詐欺に関するファクトシートも提供していると述べた。
ハイランド氏は3月、出会い系アプリに対し詐欺師の削除と偽アカウントとやり取りしたユーザーへの通知を 義務付ける法案が提出された際、米国上院委員会の公聴会に出席した。
法案を提出した上院議員は、ハイランド氏の経験談がなぜこの法律が必要なのかを示していると述べた。
一般的に出会い系アプリは、詐欺師のアカウントが削除された後、詐欺師とやり取りしたユーザーに通知したり、詐欺の回避方法に関する警告を出したりしていない。これは提案されている新法案で義務付けられている。
Skypeを所有するマイクロソフトは、トムソン・ロイター財団に対し、ロマンス詐欺の防止方法をユーザーに知らせるブログ記事や、画像への透かしの追加など、AI生成コンテンツへの対策について同社が講じてきた措置について閲覧するよう指示した。同社はそれ以上のコメントは提供しなかった。
レクシスネクシス・リスク・ソリューションズの詐欺・アイデンティティ担当ディレクター、ジェイソン・レーン＝セラーズ氏は、詐欺の報告はわずか7%で、被害者は羞恥心のために報告をためらうことが多いと述べた。
「AI軍拡競争」
オランダに拠点を置く消費者保護団体、グローバル・アンチ・スカム・アライアンスのMD、ヨリ・アブラハム氏は、人間が操作されたメディアを見破れるのはそう長くは続かないだろうと述べた。
「2、3年後には、AI対AIの戦いになるだろう」とアブラハム氏は述べた。
「会話を追跡できるソフトウェアは存在する。目の動きや瞬きなどを見ることで、人間には見えない何かが起こっていることを示す証拠となる。ソフトウェアにはそれが見えるのだ。」
レクシスネクシス・リスク・ソリューションズのレーン・セラーズ氏は、これを詐欺 師と、消費者や企業を守ろうとする詐欺対策企業との間のAI「軍拡競争」と表現した。
イングランド北部サルフォード・ビジネス・スクールのAI専門家、リチャード・ウィットル氏は、将来的には、ユーザーのウェブカメラにアクセスできるApple、Google、Microsoftなどのハードウェアメーカーがディープフェイク検出技術を組み込むようになると予想している。
AppleとGoogleは、ディープフェイクから消費者をどのように保護しているか、また将来の製品開発についてコメントを求めたが、回答は得られなかった。
アブラハム氏は、真の課題は詐欺師を捕まえることだと述べた。詐欺師は、標的の国とは異なる国で活動していることが多いからだ。
行き詰まりながらも、ハイランド氏は詐欺を報告し、当局による詐欺師の取り締まりに協力することは良いことだと信じている。そして、詐欺の被害者には、それは彼らのせいではないことを知ってほしいと願っている。
「私は専門用語を学びました。私たちはお金を失ったり、あげたりしているのではなく、盗まれているのです。私たちは詐欺に引っかかっているのではなく、操られ、被害者になっているのです。」