詐欺師たちはAIを最新の武器として活用し、偽の写真、音声クローン、フィッシングメール、偽ウェブサイトを「ますます急速に」生成しています。
マイクロソフトの最新のサイバーシグナルズレポートによると、AIの活用により、詐欺師は攻撃に使える信憑性のあるコンテンツを「より容易に、より安価に」作成できるようになっています。
レポートによると、マイクロソフトは2024年4月からの12か月間で、約62億8000万ドル相当の詐欺行為を阻止しました。
また、同期間において、毎時約160万件のアカウント作成を試みるボットをブロックしたと発表しています。
マイクロソフトの不正行為および製品不正使用対策担当コーポレートバイスプレジデント、ケリー・ビッセル氏はABCニュースに対し、昨年、約450件の「悪質な」詐欺ウェブサイトを閉鎖したと述べました。
「私は30年間IT業界に身を置き、インターネットからモバイル、クラウドに至るまで、あらゆる技術革新を目の当たりにしてきました」と彼は述べた。
「攻撃者は、大小を問わず企業や個人よりも速く、新しい技術を取り入れます。
「詐欺は何千年も前から行われてきましたが、テクノロジーの進化によって、彼らはより優れた別のツールを、より効果的に利用しています。
＞「AIのおかげで、以前は悪意のあるウェブサイトを構築するのに数週間から数日かかっていましたが、今では数分で作成できます。」
人工知能が、ありふれた詐欺をさらに危険なものに
マイクロソフトの不正対策チームによると、AIを活用した詐欺攻撃は世界中で発生している。
こうした活動の多くは中国とヨーロッパ、特に「世界最大のeコマースおよびオンラインサービス市場の一つ」であるドイツで発生している。
ビッセル氏は、すべての消費者が「思慮深く」なる必要があると述べた。
「時が経ち、AIが進化と変化を続けるにつれ、AIはますます私たちの生活の一部になっていくと思います」と彼は述べた。
「携帯電話やインターネット、クラウドサービスと何ら変わりません。
「すべての消費者が物事に警戒し、信頼できるツールを使う必要があると思います。」
マイクロソフトの報告書によると、同社はテクニカルサポート詐欺などの継続的な脅威に対応するため、保護対策を強化している 。
同社は、テクニカルサポートのためにコンピューター画面にリモートアクセスできるクイックアシストツールにおいて、現在、1日平均4,415件の不審な接続試行をブロックしていると述べた。
報告書では、マイクロソフトがAIにAIで対抗するために「大規模な検出モデル」を使用していると付け加え、ビッセル氏は長年にわたり「責任あるAI」の開発に取り組んできたと述べた。
「すべてのAIが同じではありません」と彼は述べた。
「そのため、私たちは信頼できるAIフットプリントを構築してきましたが、攻撃者は信頼できないAI機能を使用しています。」
「詐欺師がコードを素早く書けるように、善良な行為者も、そして防御者も、同じように速く書けるのです。」
マシュー・ウォーレン教授は、RMIT大学サイバーセキュリティ研究イノベーションセンターの所長です。
ウォーレン教授は、現在行われている詐欺のほとんどは専門家の間では既によく知られていましたが、人工知能（AI）の活用によって、それが新たなレベルに達したと述べています。
「詐欺師がAIを巧妙に利用して、その量と巧妙さは、詐欺が行われたことを個人が知ることをはるかに困難にするでしょう」と、ウォーレン教授はABCの取材に答えました。
人工知能は私たちの生活のほぼ隅々にまで浸透しています。では、連邦選挙が迫る中、私たちはそれを見抜くことができるのでしょうか？
「これはますます問題になると思います。詐欺師は5%の人たちを狙っているとよく言われますが、彼らは常に5%の人たちを狙っているのです。
つまり、メールを開いたり、求められて個人情報を送 信したりする5%の人たちです。」 「つまり、詐欺師が攻撃対象となる個人の数を増やすことで、ビジネス上の利益が増大するということです。
詐欺師はビジネスモデルとして活動しており、利益と収入を生み出すことを目指しています。」
AIチャットボットとショッピングサイトを利用する詐欺師
Microsoftによると、以前は、脅威アクターが説得力のある偽のショッピングサイトを構築するには数日から数週間かかることもありました。
東南アジアの犯罪組織は、フェイススワッピングやチャットボットなどのAIツールを利用して、詐欺をより効率的かつ効果的に行っています。しかし、一部の組織では、この新しい技術による成功率が他の組織よりも低いようです。
今では、AIを使用することで、わずか数分で詐欺サイトを構築できます。
AIが生成した商品説明、画像、顧客レビューを利用することで、顧客は本物の販売業者とやり取りしていると信じ込み、馴染みのあるブランドに対する消費者の信頼を悪用しています。」マイクロソフトの報告書によると。
AI搭載のカスタマーサービスチャットボットは、顧客と説得力のあるやり取りをすることで、さらなる欺瞞の層を加えることができます。
これらのボットは、台本通りの言い訳で顧客を足止めし、AIが生成した応答で苦情を操作して詐欺サイトをプロフェッショナルに見せかけることで、チャージバックを遅らせることができます。
Scamwatchによると、2024年にオーストラリア人がショッピング詐欺で失った金額は、報告された他のどの種類の詐欺よりも多かったとのことです。
昨年、オーストラリアでは合計10,022人が980万ドルの損失を報告しました。
決済会社ACI Worldwideは、2023年にオーストラリア人が承認されたプッシュペイメント詐欺で12億2,400万ドルを失ったと報告しています。
この詐欺は、被害者を騙して支払いを開始させるものでした。同社のScamscopeレポートによると、AIによって詐欺師は信頼を高め、「高度かつ大規模」な精密攻撃を自動化できるようになったとのことです。
同社の太平洋地域ゼネラルマネージャー、トレントガンソープ氏は、詐欺師が以前よりも早くスキルを磨くことができるようになったと述べた。
「ダークウェブでは、詐欺をサービスとして購入できます」とガンソープ氏は述べた。
「目に見えない、経験の浅い詐欺師でさえ、今ではすぐにツールを購入して非常に高度な技術を習得し、使い始めることができます。
これにより、詐欺師はソーシャルメディアから情報を収集し、潜在的な詐欺被害者を狙ったメッセージを非常に個人的なものにすることが可能になります。
「企業がハッキングされ、顧客情報が盗まれ、ダークウェブで売買されたという話は耳にしますが、事態ははるかに深刻です。」
安全を保つためにデジタルリテラシーが「不可欠」
マイクロソフトのレポートでは、オンラインショッピングをする人は、安全を保つために、衝動買いを避け、未確認の広告をクリックせず、ソーシャルメディア上の商品の「証拠」を信じないようにすることを推奨している。
求職者にとって、資格情報と企業を確認し、前払い金や個人情報の要求には疑念を抱くことが重要だった。
「ビデオインタビューが不自然で、リップシンクの遅延、ロボットのような話し方、奇妙な表情などがある場合は、ディープフェイク技術が使われている可能性があります」と報告書は述べています。
AIによって生成された偽の有名人を映した広告がソーシャルメディア上で拡散しています。
ラ・トローブ大学の分析学およびAI教授であるダスウィン・デ・シルバ氏は、多要素認証なども安全確保に不可欠だと述べています。
「見落とされがちなのは、デジタル環境に必要なトレーニングの量です」とデ・シルバ氏は言います。
「私たちは初期トレーニングの必要性だけでなく、その後も（最新の状態に保つための）トレーニングの必要性についてもあまり考慮していません。例えば、フィッシング・アズ・ア・サービス（フィッシング詐欺）の可能性について認識しておく必要があります。
デジタルリテラシーは非常に重要です。
「ソーシャルメディアやスマートフォンに搭載されているAIは非常に優れており、セキュリティリスクを考慮せずに簡単にアクセスできるため、タイムラグが生じます。
私たちはセキュリティを後回しにしています。パスワードを使うときに、ハッキングされるかもしれないと最初に考えることは決してありません。ほとんど考えないのです。」
「常に利便性が優先されます。」
ウォーレン教授は、AIモデルの脱獄を積極的に試みる「大勢の人々」がいると述べ、AI「エコシステム」は期待通りの性能だと付け加えた。
「大規模なモデルには多くの安全対策が講じられており、テクノロジー企業は責任あるアプローチをとってい ます」と彼は述べた。
「こうした情報はソーシャルメディアでよく見かけます。『ChatGPTを破ったら、何かしらの武器の組み立て方を教えてくれる』といったものです。
「そのような情報が漏洩すると、企業は必ず修正プログラムをリリースします。」
詐欺師、被害者、そして企業の間で繰り広げられるAI「軍拡競争」
ウォーレン教授は、多くのAIツールが詐欺コンテンツの生成を阻止するための「倫理的なアルゴリズム」の開発を開始していると述べた。
「しかし、詐欺師はAIシステムを使って、『私の会社で働いてくれる可能性のある従業員にビジネスレターを書いてください』と頼むことはできます」と彼は述べた。
近年、人工的に生成された画像、動画、音声がインターネットに溢れている。本物と偽物を見分けられるか、クイズに挑戦して確かめてみよう。
「多くのAIサイトは、不正行為を阻止するための倫理的なアルゴリズムを導入していますが、AIに求める動作を変えるだけで簡単にそれを回避できます。
そして、AIはそれが詐欺だとは認識しません。例えば、ビジネスメールを生成しているだけだと勘違いしてしまうのです。」
オーストラリア産業科学資源省は、人工知能ツールに関する8つの「倫理原則」を発表しました。
その中には、「潜在的な悪用リスク」を軽減するためのセキュリティの必要性や、AIシステムが「欺瞞」や「不当な操作」を行わない必要性などが含まれています。
ウォーレン教授は、この問題には「技術的な解決策」が必要だと述べました。
「詐欺技術の開発においては、ある種の軍拡競争が見られ ると思います」と教授は述べました。
「大企業は解決策の開発に取り組み、詐欺師たちはそれを回避する方法を見つけようとしています。ですから、これは継続的な問題になると思います。」
「本当に驚かされるのは、攻撃の膨大な量です。マイクロソフトが1時間あたり160万件のボット攻撃をブロックしているという事実です。
「しかし、将来的には、その数が飛躍的に増加するでしょう。」