最近の民事訴訟に対する修正された訴状において、Microsoft は、Microsoft の Azure OpenAI サービスを含む生成 AI サービスのガードレールを回避するように設計された悪意のあるツールの主な開発者の名前を挙げています。私たちは現在、特定された被告に対してこの法的措置を講じ、彼らの行為を止め、彼らの違法な活動を解体し続け、私たちの AI 技術を武器にしようとする他者を阻止しようとしています。
名指しされた人物は、(1) イラン出身の Arian Yadegarnia 氏 (別名「Fiz」)、(2) イギリス出身の Alan Krysiak 氏 (別名「Drago」)、(3) 中国香港出身の Ricky Yuen 氏 (別名「cg-dot」)、(4) ベトナム出身の Phát Phùng Tấn 氏 (別名「Asakuri」) です。これらの人物は、Microsoft が Storm-2139 として追跡している世界的なサイバー犯罪ネットワークの中心人物です。Storm-2139 のメンバーは、公開ソースから収集した公開された顧客認証情報を利用して、特定の生成 AI サービスのアカウントに違法にアクセスしました。その後、これらのサービスの機能を変更し、他の悪意のある人物にアクセス権を転売し、著名人の同意のない親密な画像やその他の性的に露骨なコンテンツを含む有害で違法なコンテンツを生成する方法についての詳細な指示を提供しました。
この活動は、当社の生成 AI サービスの利用規約で禁止されており、当社の安全対策を回避するための意図的な取り組みが必要でした。特定の著名人の名前は公表せず、身元を非公開にし、合成画像やプロンプトは有害コンテンツのさらなる流通を防ぐため、提出書類から除外しています。
Storm-2139: クリエイター、プロバイダー、エンドユーザーのグローバル ネットワーク。
2024 年 12 月、Microsoft のデジタル犯罪ユニット (DCU) は、バージニア州東部地区で 訴訟 を起こし、米国の法律および Microsoft の 利用規定 と 行動規範 に違反する活動に参加した身元不明の「ジョン・ドゥ」10 人に対してさまざまな訴因を主張しました。この最初の訴訟を通じて、犯罪組織の活動に関するより多くの情報を収集することができました。
Storm-2139 は、作成者、プロバイダー、ユーザーの 3 つの主要なカテゴリに分類されます。作成者は、AI 生成サービスの悪用を可能にする違法ツールを開発しました。その後、プロバイダーはこれらのツールを変更し、多くの場合、さまざまなレベルのサービスと支払いでエンドユーザーに提供しました。最終的に、ユーザーはこれらのツールを使用して、有名人や性的画像を中心とした違反の合成コンテンツを作成しました。
以下は、Storm-2139 の視覚的表現です。調査の一環として発見されたインターネット エイリアスと、関連するペルソナが所在すると思われる国を示しています。
Storm-2139 の組織構造。
「Fiz」の LinkedIn プロフィールのスクリーンショット
Microsoft は、現在進行中の調査を通じて、上記の人物のうち、名前の挙がっている 4 人の被告人を含むがこれに限定されない人物を特定しました。米国（具体的にはイリノイ州とフロリダ州）に拠点を置く2人のアクターを特定しましたが、潜在的な犯罪捜査の妨げにならないように、その身元は公表されていません。Microsoftは、米国および外国の法執行機関の代表者への犯罪者紹介を準備しています。
MicrosoftのWebサイトの差し押さえと裁判所への申し立てに対するサイバー犯罪者の反応
最初の申し立ての一環として、裁判所は、Microsoftが犯罪活動に不可欠なWebサイトを差し押さえることを可能にする一時的な差し止め命令と仮差し止め命令を発行し、グループのサービスの運用能力を事実上妨害しました。このWebサイトの差し押さえと、それに続く1月の法的申し立ての封印解除は、アクターからの即時の反応を引き起こし、場合によってはグループのメンバーが反発し、互いに非難し合うことになりました。 私たちは、グループの監視された通信チャネルで、訴訟に関する雑談を観察し、「ジョン・ドゥ」の身元と潜在的な結果について推測していました。
「Fiz」の本名について議論しているオンラインチャットのスクリーンショット。
これらのチャネルでは、一部のメンバーが Microsoft の弁護士の「個人情報をさらし」、名前、個人情報、場合によっては写真を投稿しました。さらしは、個人情報の盗難から嫌がらせまで、現実世界での危害につながる可能性があります。
事件弁護士に関する情報を提供するオンライン チャネルの投稿のスクリーンショット。
その結果、Microsoft の弁護士はさまざまなメールを受け取りました。その中には、Storm-2139 の容疑者から、同作戦の他のメンバーに責任を転嫁しようとするメールもいくつかありました。
記録弁護士が受け取ったメールのスクリーンショット。
この反応は、Microsoft の法的措置の影響を強調し、これらの対策がインフラストラクチャを掌握することでサイバー犯罪ネットワークを効果的に混乱させ、メンバーに強力な抑止効果を生み出すことができることを示しています。
生成 AI の悪用と戦うための取り組みを継続します。
マイクロソフトは、AI の悪用を非常に深刻に受け止めており、虐待的な画像が被害者に与える深刻で永続的な影響を認識しています。マイクロソフトは、堅牢な AI ガードレールを組み込み、違法で有害なコンテンツからサービスを保護することで、ユーザーを保護することに引き続き取り組んでいます。昨年、マイクロソフトは、AI によって生成された虐待的なコンテンツに対抗するための 包括的なアプローチ の概要を示し 、ユーザーの安全を守るための新しい方法を継続的に革新することを約束しました。マイクロソフトは、犯罪者を裁きにかけるために必要なツールを法執行機関に提供するための刑法の近代化に関する米国の政策立案者への推奨事項を含む ホワイト ペーパー を公開しました。また、私たちは 親密な画像の悪用に対するアプローチ に関する最新情報も提供し、合成画像であろうとなかろうと、そのような被害から私たちのサービスを保護するために私たちが講じている手順を詳しく説明しました。
以前にも述べたように、混乱は 1 日で完了することはありません。悪意のある行為者を追及するには、粘り強さと継続的な警戒が必要です。これらの人物の正体を暴き、悪意のある活動に光を当てることで、Microsoft は AI テクノロジの悪用との戦いにおける先例を確立することを目指しています。