関連インシデント
彼女がビデオ通話に出るや否や、褒め言葉が飛び交い始める。「わあ、すごくきれいだね」と画面の向こうの男性が言う。ビデオ映像では、彼は白人で髪は短く、おそらく彼女より数歳若く、チェック柄のシャツを着てカメラの前に座っている。
「ヒゲとかを剃ると見た目が変わりますね」と女性は会話が始まるとアメリカ訛りで言う。男性は間髪入れずに言う。「ヒゲを剃って見た目を良くするって言ったでしょ」
ただし、彼は自分が主張している人物ではない。彼のビデオ映像は嘘だ。そして、ヒゲがあろうとなかろうと、ビデオ通話で女性が見る顔は彼のものではない。それはディープフェイクだ。
実際には、この男性は顔交換技術を使ってリアルタイムで外見を完全に変える詐欺師だ。詐欺師の共犯者が女性からおそらく数千マイル離れた場所で撮影した通話の動画では、被害者と話している彼の本当の顔と偽のペルソナが、このノートパソコンで見ることができる。
この自撮り動画は、Yahoo Boysとして知られる詐欺師がオンラインに投稿した多数の動画のうちの1つである。Yahoo Boysは、ナイジェリアを拠点とすることが多い詐欺師の緩やかな集団である。この動画では、彼らがディープフェイクや顔の入れ替えを使用して被害者を恋愛詐欺に陥れ、偽の身元を使って被害者との信頼関係を築き、数千ドルをだまし取っている様子が明らかになっている。FBIによると、昨年は恋愛詐欺で6億5000万ドル以上が失われたという。 Yahoo Boy の詐欺師は、被害者に対して複数の電話と顔交換ソフトウェアを使用します。これは、グループがリアルタイム通話に使用する 2 つの手法のうちの 1 つです。
Yahoo Boys は約 2 年間ディープフェイク ビデオ クリップの実験を行っており、昨年はよりリアルタイムのディープフェイク ビデオ通話に移行したと、ジョージア州立大学の教授であり、身元確認会社 SentiLink の詐欺インサイト責任者である David Maimon 氏は述べています。Maimon は、Telegram で Yahoo Boys を 4 年以上監視し、詐欺師がディープフェイクをどのように使用しているかを明らかにする数十のビデオを WIRED と共有しました。
WIRED がビデオと 3 つの関連する Yahoo Boy Telegram チャンネルをレビューしたところ、ディープフェイク アプリケーションと人工知能の進歩に伴い、詐欺師の手法がどのように進化したかがわかりました。これは、ディープフェイクビデオ通話を使用する詐欺師の具体的な戦術と突飛なテクニックが、これほど詳細に記録された初めてのケースだ。
ビデオには、Yahoo Boys がノートパソコンと電話の両方を使ったセットアップでこの技術を使用している様子が映っている。複数のビデオで、詐欺師はしばしば、詐欺の対象となる被害者だけでなく、自分自身の顔も堂々と見せている。「彼らがバカだからやっているとは思いません」とマイモン氏は言う。「彼らは単に気にしていないし、反響を恐れていないだけだと思います」。
Yahoo Boys は経験豊富な詐欺師であり、それを公然と自慢している。彼らの詐欺行為や勧誘の写真やビデオは、Facebook から TikTok まで、あらゆるソーシャルメディアで見ることができる。しかし、ナイジェリア王子のメール詐欺へのリンクを持つサイバー犯罪者は、おそらくTelegramで最もオープンです。
何千人ものメンバーを含むグループで、Yahoo Boysはさまざまな詐欺のために個々のスキルを組織し、宣伝しています。彼らは熟練した社会的操作者であり、被害者に長期的な影響を与えることができます。 ビジネスメール詐欺、暗号詐欺、なりすまし詐欺は、1 日に何百もの投稿で宣伝されています。メンバーは、写真やビデオの編集スキル、説得力のあるペルソナを構築するために使用できる露骨な写真のアルバム全体を販売していると主張しています。偽の ID と本物に見えるソーシャル メディア プロファイルが販売されています。詐欺の「スクリプト」は無料でダウンロードできます。
「ヤフーボーイズは組織犯罪と非組織犯罪の要素を持っている」と、ネットワーク伝染研究所の情報アナリストであるポール・ラフィール氏は語る。同氏はヤフーボーイズによる10代の若者へのセクスト行為を調査し、彼らを自殺](https://www.bloomberg.com/features/2024-sextortion-teen-suicides/?accessToken=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJzb3VyY2UiOiJTdWJzY3JpYmVyR2lmdGVkQXJ0aWNsZSIsImlhdCI6MTcラフィール氏によると、Yahoo Boys のチャンネルは 3 つあり、そのうち 3 つは 1 つしかないという。「彼らにはリーダーがおらず、統治構造もない」。ラフィール氏によると、むしろ彼らは集団で組織化して、オンラインでアドバイスやヒントを共有しているという。Telegram は WIRED の Yahoo Boys のチャンネルに関するコメント要請には応じなかったが、3 つのチャンネルはアクセスできなくなっているようだ。
デジタル詐欺師たちは、2022年5月頃から恋愛詐欺の一環としてディープフェイクを使い始めたとマイモン氏は言う。「彼らがやっていたのは、自分たちの動画を投稿し、外見を変えて被害者に送り、話をするように誘い込もうとすることだった」と同氏は言う。それ以来、彼らは別の方法に移った。
ヤフーボーイズは動画を作成するために、いくつかの異なるソフトウェアとアプリを使用している。WIREDは、人々が攻撃を真似できないようにするため、具体的なソフトウェアの名前は明かしていない。しかし、彼らが使用しているツールは、有名人やインフルエンサーと顔を交換できるようにするなど、娯楽目的であると宣伝されていることが多い。
ヤフーボーイズのライブディープフェイク通話は2つの異なる方法で行われる。上に示した最初の方法では、詐欺師は2台の電話と顔交換アプリのセットアップを使用している。詐欺師は被害者と通話している携帯電話を手に持ち（ズームを使用しているところがほとんどだが、どのプラットフォームでも機能する可能性があるとマイモン氏は言う）、その背面カメラを使って2台目の携帯電話の画面を録画する。この2台目の携帯電話のカメラは詐欺師の顔に向けられており、 顔交換アプリが起動している。動画によると、詐欺師は2台の携帯電話をスタンドに置いて動かないようにし、リングライトを使ってリアルタイムの顔交換の条件を整えることが多い。
2つ目の一般的な手法は、以下に示すように、携帯電話の代わりにノートパソコンを使用する。（WIREDは両方の動画で実際の顔をぼかしている。）ここでは、詐欺師はウェブカメラを使って顔を撮影し、ノートパソコンで実行されているソフトウェアが外見を変える。この設定の動画では、詐欺師は改変されたディープフェイクと自分の顔を同時に見ることができ、ライブビデオ通話では操作された画像のみが表示される。
マイモン氏によると、彼と彼のチームは、Yahoo Boys が販売しているディープフェイク動画と写真アルバムの両方で被害者の一部を追跡し、連絡を取ろうとしたという。WIRED は被害者や詐欺師の正体を特定できず、ディープフェイクが何回使用されたかも不明だ。それでも、被害者を映しているように見える動画は、詐欺師がターゲットとどのように信頼関係を築いているかを明らかにしている。
動画では、詐欺師が相手に「愛している」と言い、容姿を頻繁に褒めている。ある動画では、詐欺師がターゲットに会うためにカナダに行きたいと言い、実際に会ったら「すぐに」支払うと言っている。これは、詐欺師が返済すると偽って約束したお金がターゲットから送られてきたことを示唆している。他の動画には、非常に個人的な情報が含まれており、詐欺師がターゲットにしている人々との間に築くことができる信頼のレベルを示している。「被害者の中には、摂食障害やうつ病について話す人 もいます」とマイモン氏は言う。
これらの動画は、ヤフーボーイズの恋愛詐欺活動のほんの一例に過ぎず、彼らが自主公開する動画の多くは、他人にその手法を「購入」させる能力を誇示する意図が一部ある。ラフィール氏は、セクストーションの疑いで同グループを調査した際、フェイススワッピングの大半が恋愛詐欺に使用されていることに気付いたという。しかし、ヤフーボーイズが写真にディープフェイク「ヌード」ジェネレーターを使用していると主張する例もあった。
詐欺師は、ノートパソコンでフェイススワッピングソフトウェアを実行できる。このソフトウェアは、詐欺師の表情や口の動きを模倣する。
人工知能は詐欺行為を加速させるだろう。ディープフェイク動画は 5 年以上 存在していますが、主に 合意のないポルノ に使用されていますが、不具合が多く、簡単に見分けられます。人が話しているときに唇が同期せず、エラーを検出するのは比較的簡単です。ただし、この技術は急速に進歩しており、誰でも簡単に使用できるようになりました。
Yahoo Boy の動画の中には、信じられないほど明らかに偽物であるものもあれば、もっともらしいものもあります。不安定な接続で携帯電話でライブで視聴すると、明らかな欠陥が隠される可能性があります。特に、詐欺師が何ヶ月もかけて被害者をソーシャル エンジニアリングしている場合はそうです。
SocialProof Security の共同創業者兼 CEO のレイチェル・トバック氏は、同社 CTO のエヴァン・トバック氏とともに WIRED のために Yahoo Boy の動画をレビューしたが、過去 12 か月間の恋愛詐欺で顔の入れ替えが一般的に使用されていると述べている。「昨年チェックしたときは、それほど説得力のあるものではありませんでした。今年は大きく変わりました」とレイチェル・トバック氏は言う。「特に、声の高さや顔の見た目を変えられるものは、肌の色、髪、目の色を変えて、すべてが一致しています。かなりワイルドです」。
Yahoo Boy は、アプリに組み込まれている既存のペルソナや顔を使用することが多いようだ。詐欺師は主に自分の声で話すが、いくつかの動画では声も変えられている可能性がある。WIRED が確認した動画の多くでは、画面上のキャラクターは頭を回すことはできるが、体全体を動かすことはできない。彼らの唇や表情は、詐欺師の顔に合わせて動く。これらのツールの機能は、時が経つにつれて向上する一方だ。
身元確認会社 iProov の最高科学責任者アンドリュー・ニューウェル氏は、100 種類以上のツールを追跡した結果、昨年使用されている顔交換システムの数が「大幅に変化」したと語る。これらのツールのうち、リアルタイムの顔交換が可能なのはほんの一部に過ぎないと同氏は言う。「これらのライブ ツールの優秀さという点では、かなり大きな進歩が見られた」
Yahoo Boys は独自のソフトウェアを開発したり、技術的に洗練されているわけではないが、多才だとマイモン氏は言う。彼らは一度に複数の詐欺を実行し、一度に数十人の被害者と話をし、詐欺全体を完遂するために必要なスキルをさまざまな個人が持っている。「常に進化している」とマイモン氏は言う。
サイバー犯罪被害者を支援する団体「インテリジェンス・フォー・グッド」のチーフ詐欺対策官ロニー・トカゾウスキー氏は、ヤフーボーイズがディープフェイクを恋愛詐欺に利用したことから、他の詐欺にもこの技術を利用するようになるだろうと話す。「これは一種の早期警告で、『よし、彼らはこういう詐欺をするのが本当に上手い。さて、次は何をするのだろう？』という感じだ」