AI の悪用に対する画期的な取り組みとして、マイクロソフトは、生成 AI モデルを不正行為のために操作したとされる世界的なサイバー犯罪ネットワークである Storm-2139 の背後にいる主要な開発者を暴露しました。同社の法的措置は、マイクロソフトの Azure OpenAI サービスやその他の AI プラットフォームの安全対策を回避し、世界中の悪質な行為者に不正アクセスを転売したとされる 4 人の被告を対象としています。
AI 悪用者の世界的なネットワーク
マイクロソフトのデジタル犯罪ユニット (DCU) は、2024 年 12 月から Storm-2139 を調査しており、当初はバージニア州東部地区で身元不明の 10 人の「ジョン・ドゥ」に対し て訴訟を起こしていました。更新された告訴では、現在 4 人の人物が特定されています。
-
イランの Arian Yadegarnia (別名「Fiz」)
-
英国の Alan Krysiak (別名「Drago」)
-
香港の Ricky Yuen (別名「cg-dot」)
-
ベトナムの Phát Phùng Tấn (別名「Asakuri」)
Microsoft によると、これらの人物は AI の安全ガードレールの回避を可能にするツールの開発と配布において重要な役割を果たしました。Storm-2139 は、公開されているソースから盗まれた資格情報を悪用して、生成 AI システムへの不正アクセスを提供し、ユーザーが有名人の同意のない親密な画像やその他の違法コンテンツを生成できるようにしました。
「組織が成長を促進するために AI ツールを採用するにつれて、機密データを保持するアプリケーションによる攻撃対象領域も拡大します」と、Apono の共同創設者兼 CEO である Rom Carmel 氏は述べています。 「AI とクラウドを安全に活用するには、機密システムへのアクセスを必要に応じて制限し、悪意のある行為者が利用する機会を最小限に抑える必要があります。」
Storm-2139 プレイブック: 作成者からユーザーへ
Microsoft の調査により、3 つの主な役割を持つ構造化された操作が明らかになりました。
-
作成者: 組み込みの安全対策を無効にする AI ジェイルブレイク ツールを開発しました。
-
プロバイダー: これらのツールを配布して収益化し、アクセス ティアとサブスクリプションを提供しました。
-
ユーザー: 不正アクセスを購入して AI システムを操作し、露骨なコンテンツを作成しまし た。
ネットワークの活動は複数の国に広がり、行為者は米国、オーストリア、ロシア、インド、中国、その他の国々にいました。Microsoft は、刑事訴訟の可能性について、米国と国際法執行機関の両方に調査結果を伝えました。
AI ハイジャック: 増大するサイバーセキュリティの脅威
セキュリティの専門家は、AI を利用したサイバー犯罪が急速に進化していると警告しています。 Keeper Security のセキュリティ & アーキテクチャ担当副社長 Patrick Tiquet 氏は、「LLMJacking」の増加を強調しました。これは、盗まれた認証情報を使用して大規模な言語モデルを乗っ取ることを意味します。
「Storm-2139 が公開 API キーを悪用して GenAI サービスを乗っ取ったことは、強力な認証情報の衛生管理と継続的な監視の必要性を強調しています」と Tiquet 氏は説明します。「攻撃者は不正アクセスを転売しただけでなく、AI モデルを積極的に操作して有害なコンテンツを生成し、組み込みの安全メカニズムを回避しました。」
リスクを軽減するために、専門家は最小権限のアクセスを強制し、強力な認証を実装し、API キーをデジタル ボールトに安全に保管することを推奨しています。定期的な認証情報のローテーション、異常検出、自動化された脅威監視は、同様の攻撃から身を守るための重要な対策です。
Microsoft の法的攻撃に反応するサイバー犯罪者
Microsoft の積極的なアプローチにより、Storm-2139 の運用はすでに混乱しています。同社は、このグループが使用する重要なウェブサイトを掌握することに成功し、サイバー犯罪者 の間で内部抗争を引き起こした。監視されたチャット チャネルでは、メンバーが「ジョン ドゥ」の身元について推測し、一部のメンバーは仲間のハッカーの個人情報を公開して責任を転嫁しようとした。
一方、マイクロソフトの法務チームは直接の標的となった。脅威アクターは、個人情報、写真、連絡先情報をオンラインに投稿して、同社の弁護士を「ドクシング」した。これは、サイバー犯罪者が個人を脅迫するためによく使用する嫌がらせの戦術である。
サイバー犯罪者が慌てふためく中、マイクロソフトは AI の悪用と戦うという使命を堅持している。Oasis Security の研究責任者である Elad Luz 氏は、同様の脅威から AI サービス アカウントを保護することの重要性を強調した。
「AI の安全性が最優先事項となっている時代に、マイクロソフトは行動を起こしています」と Luz 氏は述べた。 「彼らは盗まれた LLM アクセスを悪用している脅威アクターを追跡し、起訴しています。組織は、サービス アカウント、サービス プリンシパル、API キー、およびこの種の攻撃のエントリ ポイントとなる可能性のあるその他の非人間 ID を積極的に保護する必要があります。」
AI エクスプロイトとの戦いは続く
これらの混乱にもかかわらず、専門家は AI エクスプロイトが永続的な脅威であり続けると警告しています。SlashNext のフィールド CTO である J Stephen Kowski 氏は、LLMjacking がドミノ効果を引き起こし、侵害された資格情報が複数の脅威グループに広範に悪用される可能性があると警告しています。
「LLMjacking の主な 危険性は、最初の資格情報の盗難が複数の悪質なアクターによる広範な悪用につながるドミノ効果を引き起こすことです」と Kowski 氏は説明します。「不正な AI 使用料による重大な経済的影響に加えて、これらの攻撃は、これらのシステムに組み込まれた安全管理を回避して、性的に露骨な素材を含む有害なコンテンツの作成を可能にします。」
これらの脅威に対抗するには、企業は AI サービスに多要素認証を実装し、厳格な役割ベースの権限を設定し、異常な動作がないか AI 関連のアクティビティを監視する必要があります。API の使用状況のログ記録、請求の異常の検出、定期的な監査の実施などの予防的なセキュリティ対策は、不正アクセスを防ぐために不可欠です。
Storm-2139 に対する Microsoft の法的キャンペーンは、AI の悪用との戦いにおける転換点となります。悪意のあるネットワークを暴露して解体することで、このテクノロジー大手は、AI 技術の倫理的かつ安全な使用を優先する業界の前例を確立することを目指しています。しかし、Microsoft 自身が認めているように、AI の悪用との戦いはまだまだ終わっていません。
「以前にも述べたように、混乱は 1 日で完了することはありません」と Microsoft は述べています。「悪意のある行為者を追い詰めるには、粘り強さと継続的な警戒が必要です。」