- 「普通の」クローンは2023年のもの：AI生成のパスポート、ディープフェイク、ウェブサイトなどを使い、詐欺師たちは高度で大規模、かつ超リアルな詐欺を仕掛けている。
- 「これはスピード勝負だ」とExanteのコンプライアンス責任者は述べた。「素早くコピーして作成するにはAIツールが必要だ」。
詐欺師たちは非常に巧妙になり、従来の銀行口座さえも狙えるようになった。ある事例では、詐欺師たちがJPモルガン・チェースの銀行口座を開設し、米国ではサービスを提供していない証券会社Exanteのクローンを通して少なくとも1人の被害者を騙した。（本物の）Exanteによると、被害者はJPモルガン・チェースの口座を通じて詐 欺師に資金を送金したという。
「彼らは米国の住所を使ってJPモルガン・チェースに本物の口座を開設し、さらにいくつかの仮想通貨ウォレットも開設しました」と、Exanteのコンプライアンス責任者であるナタリア・タフト氏はFinancemagnates.comに語った。「彼らはこれらのチャネルを開設して、被害者から金銭を巻き上げようとしたのです。」
Financemagnates.comは、ルーティング番号と口座番号がJPモルガン・チェースの口座のものであることも確認しました。
銀行口座の取得
これは、詐欺師がいかに巧妙になっているかを示しています。彼らがどのようにしてJPモルガン・チェースの口座を開設したかは不明ですが、生成型人工知能（AI）が多くの詐欺師のツールになっていることは指摘しておかなければなりません。ソーシャルメディアでは、最も広く使用されているAIツールの1つであるChatGPTの最新の画像生成機能を使って、偽造パスポート画像を作成することがいかに簡単であるかを指摘する声が数多く上がっています。
タフト氏は、クローンプラットフォームの開発にAIツールが使用されたことは確信していた。
Exanteは、米国に拠点がなく、JPモルガンと一切取引がないため、JPモルガン・チェースにはこの件を報告しなかった。 Financemagnates.com はJPモルガン・チェースに連絡を取り、同行は「調査中」と回答した。
タフト氏はクローンウェブサイトのインターフェースについて、「彼らは非常に良 い仕事をした」と述べた。「素早くコピーして作成するにはAIツールが必要だ。彼らにとってこれはスピードゲームだからだ。閉鎖される前にできるだけ多くの被害者を攻撃しなければならないのだ。」
タフト氏はさらに、詐欺師たちがExanteの取引所を「模倣」していたと説明した。偽ウェブサイトにはExanteのキプロスの住所が記載されていたものの、ターゲットは米国の顧客だった。本物のExanteは米国の顧客に取引サービスを提供していない。
被害者から入金を受けた後、詐欺師たちは被害者を本物のExanteプラットフォームに登録した。Exanteのアカウントマネージャーが新規顧客（詐欺被害者）に連絡を取った際、詐欺師たちは偽のExanteプラットフォームで失われた資金について尋ねた。詐欺師たちがなぜ被害者を本物のExanteに登録したのかは不明だが、タフト氏は「これは被害者を私たちの側に引き寄せ、彼らが私たちに苦情を申し立て、返金を求める間に、詐欺師たちは送金した資金を持って姿を消すための手段だろう」と推測している。
「米国における同様の詐欺の最近の事例を調査したところ、かなりの数を発見しました」とタフト氏は続けた。「このことから、今回のケースは孤立したものではないと確信しています。」
AIは詐欺師にとって格好のツールであり、規制当局もそれを認識している
規制当局もAI関連の詐欺に積極的に注目し始めています。米国商品先物取引委員会（CFTC）も勧告を発行し、「AIによって詐欺師が説得力のある詐欺を作成することがますます容易になっている」と述べています。
規制当局は、詐欺師がAIを利用して、偽の画像、音声、動画、ライブストリーミングのビデオチャット、ソーシャルメディアのプロフィール、そして本物の金融取引プラットフォームに見せかけたウェブサイトを作成していることを発見しました。
偽の有名人画像を使って詐欺を宣伝するは目新しいものではありませんが、AIツールの登場により、より容易になりました。偽の宣伝広告はより本物らしく見えるようになり、有名人や政治家の顔や声を使ってディープフェイク動画を生成し、被害者を誘い込むツールも存在します。
「詐欺師は、ソーシャルメディアでの写真だけでなく、顔の特徴や声を変えるビデオチャットなど、新しいテクノロジーを使って身元を隠すことができます」と、CFTCの顧客教育・アウトリーチ局（OCEO）局長、メラニー・デボー氏は述べています。「本物と偽物を見分けるのは難しい場合があります。最善の防御策は、オンラインでしか知り合っていない人に決してお金を与えないことです。」
CFTCは、詐欺におけるAIの活用について警告を発している唯一の機関ではありません。米国証券取引委員会（SEC）、北米証券監督者協会（NASAA）、金融取引業規制機構（FINRA）も、AIやその他の新技術を悪用した投資詐欺の増加について共同で警告を発しました。「個人投資家は、AIの普及と複雑化の高まりを悪用して、被害者を詐欺に誘い込む犯罪者がいることを認識すべきです」と警告は述べています。
昨年12月には、連邦捜査局（FBI）も、犯罪 者が生成AIを大規模に利用していることについて国民に警告を発しました。 FBIは「生成AIは、犯罪者が標的を騙すために費やす時間と労力を削減する」と述べ、タフト氏の指摘を裏付けた。Exante社もFBIに正式な苦情を申し立てた。詐欺師たちはSECとCFTCの監督下で商品を提供していたため、Exante社のコンプライアンスチームは両機関に加え、ニューヨーク州とFinCENにも苦情を申し立てた。
しかし、CFTCのクリスティン・ジョンソン委員によると、規制当局は「サイバー脅威やAIを活用した詐欺に対処するためのAIの可能性をまだ十分に検討していない」という。ジョンソン委員はさらに、金融市場参加者を対象とした調査で、サイバー脅威の主体は参入障壁の低下、自動化の高度化、そして攻撃開始までの時間の短縮といった恩恵を受けていることが明らかになったと説明した。
ジョンソン委員は、「企業は、高度なAIツールにアクセスできる機会主義的な詐欺師から、標的型攻撃を仕掛ける高度な国家主導のハッカーまで、様々な主体によるサイバー脅威に直面している」と付け加えた。 「生成AIは、高度な技術を持つ攻撃者が、より説得力のあるフィッシングキャンペーンを実行することを可能にする可能性があります。ディープフェイクや類似のキャンペーンは、より識別が困難になる可能性があります。その結果、悪用までの時間は短縮され、金融機関に対する全体的なリスクレベルは上昇しています。」
詐欺師は組織化され、大規模な作戦を展開している
ディープフェイクとAIツールを用いた詐欺作戦の規模は、組織犯罪・汚職報道プロジェクト（OCCRP）、スウェーデンテレビ（SVT）、そ の他30のメディアパートナーによる最近の調査で明らかになりました。彼らは2つのボイラールーム作戦を発覚しました。1つはジョージアのコールセンターで、もう1つはブルガリア、キプロス、スペインで活動していましたが、イスラエルから管理されていました。
ジョージアでの詐欺行為は、2022年5月から2025年2月の間に6,000人以上から3,530万ドルを奪いました。イスラエル/欧州での詐欺行為は、2021年1月から2024年12月の間に約27,000人の被害者から少なくとも2億4,700万ドルを奪いました。
調査では、詐欺師が利用していた偽の暗号資産取引ウェブサイトの一つがAdmiralsFXであることも判明しました。これは、実在する外国為替・CFDブローカーであるAdmiralsのブランドを模倣したものでした。
米国の規制当局はまた、未登録のオンライン投資プラットフォームや無免許の個人または企業が、「当社独自のAI取引システムは絶対に負けません！」や「AIを使って確実に勝てる株を選びましょう！」といった虚偽の主張でAI取引システムを宣伝していると警告しています。
SECなどの規制当局は、「実際には、これらの詐欺師はAIの人気を利用して投資スキームを運営している」と指摘しました。
AIを活用した投資詐欺の巧妙さは、スペイン警察による最新の摘発でも明らかになった。この詐欺では、少なくとも208人の被害者から2,000万ドル以上が盗まれた。詐欺師たちは、著名人を起用したディープフェイク広告を使用し、仮想通貨投資 で高いリターンが得られると主張していた。時には、ファイナンシャルアドバイザーを装ったり、偽の恋愛感情を示したりして、被害者を騙していた。
「被害者はランダムに選ばれたわけではなく、アルゴリズムによって、サイバー犯罪者の検索条件と一致するプロフィールを持つ人が選ばれた」とスペイン警察は述べている。「被害者を選んだ後、彼らは彼らが利用するウェブサイトやソーシャルネットワークに広告キャンペーンを掲載し、高リターンで資産損失リスクゼロの仮想通貨投資を提案したが、明らかに詐欺だったことが判明した。」