ハッカーたちは攻撃の約80～90%をAIに任せ、各キャンペーンにおいて人間による処理は4～6件の重要な判断に数回しか必要としませんでした。
人工知能（AI）企業Anthropicは、大規模なサイバー攻撃が人間の介入なしに実行されたことを初めて記録された事例として公表しました。
同社が中国政府系グループであると高い確度で判断しているこの攻撃者は、AnthropicのClaude Codeツールを操作して世界約30の標的への侵入を試み、少数のケースで成功しました。この攻撃は、大手テクノロジー企業、金融機関、化学製造会社、政府機関を標的としていました。
9月中旬に不審な活動を検知したアンスロピック社は、今回の攻撃はこれまでのAIを活用したハッキングと比べて大幅にエスカレートしていると述べた。攻撃者はAIを用いて攻撃の80～90%を実行しており、人間の介入は散発的にしか必要とされず、ハッキング攻撃1回あたり4～6つの重要な判断ポイントで行われた程度だった。
AIは1秒間に数千件のリクエストを送信しており、この攻撃速度は人間のハッカーでは到底追いつくことができないものだった。アンスロピック社の脅威インテリジェンス責任者であるジェイコブ・クライン氏によると、中国で発生したとみられる攻撃のうち、最大4件が組織への侵入に成功したという。
ハッカーらは高度なジェイルブレイク技術を用いてクロードのセキュリティガードレールを回避した。彼らはAIをジェイルブレイクし、攻撃を小さく一見無害なタスクに分割することで、AIがガードレールを巧みに回避できるように仕向けました。クロードは、攻撃の目的を完全に理解することなく、これらのタスクを実行しました。
攻撃者は、クロードが正当な企業のためにサイバーセキュリティの防御タスクを実行していると思い込ませました。起動すると、クロードは独自のエクスプロイトコードを調査・作成することで、標的組織のシステムに存在するセキュリティ上の脆弱性を特定・テストし、さらなるアクセスを可能にする認証情報を収集し、大量の個人データを抽出しました。そして、これらのデータは情報価値に応じて分類されました。
この活動には欠陥がなかったわけではありません。クロードは時折、認証情報を幻覚的に表示したり、実際には公開されている機密情報を抽出したと主張したりしました。これは、完全自律型サイバー攻撃の障害となっています。
攻撃を発見したアントロピックは調査を開始し、関連アカウントを禁止し、影響を受けた組織に通知し、当局と連携しました。アントロピック社はウォール・ストリート・ジャーナルに対し、米国政府は侵入を受けた機関の中に含まれていなかったと伝えた。
この情報開示を受け、サイバーセキュリティの専門家はAIを活用した脅威の将来について警告を発している。高度なサイバー攻撃を実行するための障壁は大幅に低下しており、適切な設定さえあれば、脅威アクターはエージェント型AIシステムを長期間使用することで、経験豊富なハッカーチーム全体の作業を行うことができる。
今回の攻撃はより広範なパターンに当てはまり、北京は世界最大かつ最も高度な国家支援型サイバースパイ活動を運営していると考えられており、大陸をまたぐ政府、防衛産業、研究機関、そして重要インフラを比類のない規模と執拗さで標的にしている。
国家支援のハッキング活動を追跡している米国に拠点を置くサイバーセキュリティおよび脅威情報企業、Recorded Futureの調査によると、中国とつながりのあるハッカー、特にRedEchoと特定されるグループが、インドの電力部門全体にShadowPadマルウェアを植え付けようとした。アナリストらは、この動きにより、将来の危機や紛争の際に北京が重要なインフラを悪用または混乱させることができただろうと指摘している。