大手AI企業は、中国が支援する「サイバースパイ活動」を阻止したと発表した。この活動は、ほぼ人間の監視なしに金融機関や政府機関に侵入することができた。
米国に拠点を置くAnthropic社は、同社のコーディングツール「Claude Code」が、9月に中国政府系グループによって「操作」され、世界30の組織を攻撃し、「少数の侵入に成功した」と述べた。
同社は木曜日のブログ投稿で、これは同社が監視してきた過去のAIを利用した攻撃と比べて「大幅にエスカレート」していると述べている。Claudeはほぼ独立して行動していたためだ。攻撃に関わる操作の80～90%は、人間が介入することなく実行された。
「この攻撃者は、人間の介入をほとんど受けずに大規模に実行されたサイバー攻撃の、記録に残る初の事例であると考えられる攻撃を成功させた」と報告書は述べている。
アントロピックは、どの金融機関や政府機関が標的となったのか、またハッカーが具体的に何を達成したのかを明らかにしていない。ただし、標的の内部データにアクセスできたことは明らかにしている。
アントロピックによると、クロードは攻撃の実行において多くのミスを犯し、標的に関する事実を捏造したり、誰でもアクセスできる情報を「発見した」と主張したりしていたという。
政策立案者や一部の専門家は、今回の発見は特定のAIシステムの能力がいかに向上したかを示す不穏な兆候だと指摘した。クロードのようなツールは、現在ではより長期間にわたって独立して動作できるようになっている。
「目を覚ませ。明日AI規制を国家の優先事項にしなければ、これは我々が思っているよりも早く破滅をもたらすだろう」と、クリス・マーフィー上院議員は調査結果を受けてXに書き込みした。
「AIシステムは、これまでは熟練した人間のオペレーターが必要だったタスクを実行できるようになった」と、ハーバード大学のコンピューティングセキュリティ研究者であ るフレッド・ハイディング氏は述べた。「攻撃者が実際に被害を与えるのは非常に容易になっている。AI企業は十分な責任を負っていない。」
他のサイバーセキュリティ専門家はより懐疑的で、近年のAIを活用したサイバー攻撃に関する誇大な主張を指摘した。例えば、2023年に発表されたAI搭載の「パスワードクラッカー」は従来の方法と比べて性能が劣っていた。AnthropicはAIをめぐる誇大宣伝をしようとしているのではないかとの見方を示した。
「私にとって、Anthropicは高度な自動化を説明しているだけで、それ以上のものではありません」と、独立系サイバーセキュリティ専門家のミハウ・ヴォジニアク氏は述べた。「コード生成は含まれていますが、それは『インテリジェンス』ではなく、単なる巧妙なコピー＆ペーストです。」
ウォジニアク氏は、アンスロピックのリリースは、より大きなサイバーセキュリティ上の懸念から目を逸らすものだと述べた。企業や政府が「複雑で理解が不十分な」AIツールを理解せずに業務に導入し、脆弱性にさらしているのだ。真の脅威はサイバー犯罪者自身、そしてサイバーセキュリティ対策の不備だとウォジニアク氏は指摘する。
アンスロピックは、他の主要なAI企業と同様に、自社のモデルがサイバー攻撃を支援したり、一般的に危害を加えたりするのを防ぐためのガードレールを備えている。しかし、ハッカーたちはクロード氏に「正規のサイバーセキュリティ企業の従業員」としてテストを実施するロールプレイを指示することで、これらのガードレールを破ることができたという。
ウォジニアク氏は、「アンスロピックの評価額は約1800億ドルだが、13歳の子供がいたずら電話をかけるときに使うような方法で自社のツールが破られないようにする方法をいまだに見つけられていない」と述べた。
AIモデルの安全性を評価する企業、アポロ・リサーチの創業者マリウス・ホッブハーン氏は、今回の攻撃はAI能力の向上に伴い起こり得る事態の兆候だと述べた。
「AIとサイバー能力の面で、このような急速に変化する状況に社会は十分な備えができていないと思います。今後数年間で同様の事例がさらに多く発生し、おそらくより大きな影響をもたらすでしょう。」