クアラルンプール、8月4日 --- WhatsAppで、あなたの弟とそっくりな人物から音声メモを受け取ったと想像してみてください。声、口調、そしてあなたの名前の呼び方まで、すべてが完璧にそっくりです。
彼は仕事で行き詰まっていて、財布を忘れたので、上司にバレる前に急いで1,500リンギットが必要だと言います。最後に聞き覚えのある笑い声まで聞こえてきて、本当に彼だと思ってしまうので、思わず疑ってしまいます。
でも、もしその声が本物でなかったら？
マレーシア・サイバーセキュリティ（CSM）の最高経営責任者（CEO）であるダトゥク・アミルディン・アブドゥル・ワハブ氏は、AI生成音声ク ローン詐欺の増加について警告を発しました。詐欺師は人工知能（AI）を使って家族、友人、同僚になりすまします。
多くの場合、詐欺の目的は、被害者に偽の緊急感と信頼感を与え、送金させることです。
「詐欺師はAI生成音声を使い、友人、家族、同僚になりすまし、WhatsAppや電話を使って緊急の送金や融資を要求します。
「2024年初頭以降、警察は454件以上の同様の事件を捜査しており、被害額は総額約272万リンギットに上ります」と、マレー・メールの取材に対し、彼は述べた。
さらに彼は、2025年の最初の3か月間で、偽の電子商取引、偽の融資、架空の投資スキームなどのオンライン詐欺事件が12,110件発生し、被害額は総額5億7,370万リンギットに上ると述べた。
ブキット・アマン商業犯罪捜査局（CCID）を引用し、ディープフェイク動画、クローン音声、偽デジタルID、チャットボットなどの生成AIツールが、これらの詐欺の実行にますます利用されていると述べた。
「また、次のような詐欺も増加しています。 AIによって生成されたクローン音声。あるケースでは、詐欺師が家族の声を真似てWhatsAppの音声メモで緊急事態を装い、受信者に緊急送金を促した」とアミルディン氏は述べた。
彼は、この音声はTikTokの公開されている短い動画から複製されたものだと指摘した。
アミルディン氏はさらに、ディープフェイク詐欺にはシティ・ヌルハリザ氏やリー・チョンウェイ氏といった国民的著名人も関与しており、彼らの改変された画像と音声は、暗号通貨や投資プラットフォームを宣伝する偽の広告に使用されていたと付け加えた。
「2025年3月現在、ブキット ・アマン警察は、国内外の著名人を装った少なくとも5本のディープフェイク動画を発見したことを確認している。偽装された名前の中には、アンワル・イブラヒム首相、イーロン・マスク氏、ドナルド・トランプ氏、テレサ・コック氏、ペトロナスの幹部などが含まれていた。」
「加工された動画は、偽の投資プラットフォームを宣伝するためにオンラインで広く拡散され、その多くは元金の最大100倍のリターンを約束していた」と彼は付け加えた。
詐欺は、特に検証が見過ごされがちなソーシャルメディアプラットフォームにおいて、有名人の権威と知名度に大きく依存して、何も知らない視聴者を騙していたと彼は述べた。
アミルディン氏は、ディープフェイク技術の台頭は、その高度な技術だけでなく、社会に及ぼす広範な影響も懸念されるとして、深刻な脅威であると説明した。
個人レベルでは、ディープフェイクは人々の感情を悪用するために利用されており、特に家族、政府関係者、著名人などの声を模倣する詐欺が顕著だとアミルディン氏は指摘する。
こうした手法は、被害者に偽りの緊迫感を与え、批判的に考える機会を与える前に、金銭に関わる決断を急がせる傾向がある。
「個人の安全に加え、ディープフェイクがメディアに対する国民の信頼に与える影響についても懸念が高まっています。操作されたコンテンツが実際の映像や音声と区別がつかなくなるにつれ、事実と虚構の境界が曖昧になっています」とアミルディン氏は述べた。
また、こうした信頼の低下は混乱を招き、特にソーシャルメディア上で虚偽の物語、誤情報、偽情報が拡散しやすく なるとも述べた。
より広い視点で見ると、政治指導者や高官を巧妙に模倣したコンテンツは、パニックを煽ったり、世論を操作したり、政治的不安定を招いたりするために武器として利用される可能性があるため、国家安全保障も危機に瀕しているとアミルディン氏は強調した。
AI生成の疑わしいコンテンツを検証・報告する方法
ディープフェイクの検出がますます困難になっているため、CSMは国民に対し、警戒を怠らず、利用可能なリソースを活用して疑わしいコンテンツを検証するよう強く求めている。
同氏は、同庁のサイバー999インシデント対応センターが、フィッシング、マルウェア、改ざんされたデジタルコンテンツといった技術的な要素を伴うサイバー脅威の特定において、個人と組織の両方を支援していると述べた。
一般の方は、以下の複数のチャネルを通じて不審な活動を報告できます。
オンラインフォームとモバイルアプリケーション
- メールアドレス: cyber999[@]cybersecurity.my
- ホットライン: 1-300-88-2999 (営業時間内) または +60 19-266 5850 (24時間年中無休)
「Cyber999は、不審なメールの技術分析も行っています。ユーザーは、専門家による確認のため、メールのヘッダーと本文全体を転送することを推奨しています。
さらに、チームは定期的にセキュリティに関するアドバイスやベストプラクティスを共有し、マレーシア国民が最新のオンライン脅威とその回避策を把握できるよう支援しています」と彼は述べた。
Cyber999は、フィッシングやマルウェアなどの技術的なサイバー脅威に対応しており、明確な技術的要素がないディープフェイクのケースは通常、法執行機関または規制当局に照会されるとアミルディン氏は説明した。
中小企業向けには、CSMがCyberSAFE中小企業ガイドラインを策定しており、組織が不審なオンラインコンテンツを検知、検証、対応するための簡単なチェックリストを提供しているとアミルディン氏は述べた。