Microsoft は、LLMjacking を介して Azure AI を悪用するサイバー犯罪ネットワーク Storm-2139 を暴露しました。盗まれた API キーによって有害なコンテンツが生成された経緯と、Microsoft の法的措置について学びましょう。
Microsoft は、Azure AI サービス 内の脆弱性を悪用した Storm-2139 と呼ばれるサイバー犯罪ネットワークに対して法的措置を講じました。同社は、この違法な活動の中心人物である 4 人の個人を公に特定し、非難しました。彼らの名前は次のとおりです。
- イラン出身の Arian Yadegarnia 別名「Fiz」
- ベトナム出身の Phát Phùng Tấn 別名「Asakuri」
- 中国香港出身の Ricky Yuen 別名「cg-dot」
- イギリス出身の Alan Krysiak 別名「Drago」
Hackread.com に独占的に公開された Microsoft の公式レポートによると、これらの個人はさまざまなオンライン エイリアスを使用して、LLMjacking と呼ばれるスキームを実行していました。これは、AI サービスにアクセスするためのデジタル認証情報として機能する API (アプリケーション プログラミング インターフェイス) キーを盗んで、大規模言語モデル (LLM) をハイジャックする行為です。API キーが取得されると、サイバー犯罪者は LLM を操作して有害なコンテンツを生成することができます。
Storm-2139 の中心的な活動は、公開されている情報源から盗んだ顧客の認証情報を利用して AI プラットフォームに不正アクセスし、これらのサービスの機能を変更し、組み込みの安全対策を回避し、その後、他の悪意のある行為者にアクセス権を転売することでした。彼らは、同意のない親密な画像や性的に露骨な素材など、有名人をターゲットにした違法コンテンツを作成する方法について詳細な指示を提供しました。
Microsoft のデジタル犯罪ユニット (DCU) は、2024 年 12 月に法的手続きを開始し、最初は身元不明の 10 人の個人をターゲットにしました。その後の調査で、Storm-2139 の主要メンバーが特定されました。ネットワークは構造化されたモデルを通じて運営され、作成者が悪意のあるツールを開発し、プロバイダーがそれらを変更して配布し、ユーザーが不正なコンテンツを作成しました。
「Storm-2139 は、作成者、プロバイダー、ユーザーという 3 つの主要なカテゴリに分類されます。作成者は、AI 生成サービスの悪用を可能にする違法ツール を開発しました。プロバイダーはその後、これらのツールを変更し、多くの場合、さまざまなレベルのサービスと支払いでエンドユーザーに提供しました。最終的に、ユーザーはこれらのツールを使用して、違反する合成コンテンツを生成しました」と、Microsoft の ブログ投稿 で明らかにされています。
Storm-2139 の視覚的表現 (出典: Microsoft)
Microsoft が取った法的措置 (主要 Web サイトの差し押さえを含む) により、ネットワークは大幅に混乱しました。グループのメンバーは警戒して反応し、オンラインでチャットに参加したり、他のメンバーを特定しようとしたり、Microsoft の法律顧問の個人情報をさらしたりして、犯罪行為を解体する Microsoft の戦略の有効性を浮き彫りにしました。
Microsoft は多面的な法的戦略を採用し、民事訴訟を起こしてネットワークの運用を妨害し、法執行機関に刑事告発を求めた。このアプローチは、差し迫った脅威を阻止するとともに、将来の AI の悪用に対する抑止力を確立することを目指していた。
同社はまた、有害なコンテンツを生成するための AI の悪用問題にも対処しており、厳格なガードレールを実装し、ユーザーを保護するための新しい方法を開発している。また、法執行機関に AI の 悪用に対抗 するために必要なツールを装備するために、刑法の近代化を提唱している。
セキュリティの専門家は、このような攻撃を防ぐには、より強力な資格情報保護と継続的な監視が重要であることを強調している。Apono の共同創設者兼 CEO である Rom Carmel は Hackread に対し、成長のために AI とクラウド ツールを使用する企業は、セキュリティ リスクを軽減するために機密データへのアクセスを制限する必要があると語った。
"組織が成長を促進するために AI ツールを導入するにつれて、機密データを保持するアプリケーションによる攻撃対象領域も拡大します。AI とクラウドを安全に活用するには、機密システムへのアクセスを必要に応じて制限し、悪意のある行為者による攻撃の機会を最小限に抑える必要があります。"