アンスロピック社は木曜日、中国の工作員とみられる人物らが同社のAIコーディングツール「Claude-sonnet-coding-agent」を使用して約30の世界的組織を標的とし、複数のケースで成功を収めたと発表した。
重要性：アンスロピック社は、外国政府がAIを使用してサイバー攻撃を完全に自動化した事例として記録されたのはこれが初めてだと警告した。
アンスロピック社によると、この攻撃はClaudeのエージェント機能、つまり最小限の人間による指示で複数のステップにわたって自律的に行動する能力に依存していたという。
全体像：国家レベルのハッカーがAIを用いてデジタル攻撃のスピードアップと規模拡大を図るという状況は、もはや限界に達しつつある。
- 今月初め、Googleは発表、ロシア軍のハッカーがAIモデルを用いてウクライナの組織を標的としたマルウェアを生成したと発表しました。しかし、そのためには人間のオペレーターがモデルを段階的に操作する必要がありました。
- Anthropicによると、今回の新たなケースでは、Claude Codeが操作の80～90%を単独で実行しました。
拡大：Anthropicは木曜日のブログ投稿で、中国政府系ハッカーとみられる人物がClaude Codeを脱獄し、数十のテクノロジー企業、金融機関、化学メーカー、政府機関への侵入を支援しているのを発見したと発表しました。
- 同社は9月中旬にこの活動を初めて検知し、その後10日間にわたり調査を行いました。
- 当該期間中、中国は悪意のあるアカウントを凍結し、標的となった組織に警告を発し、調査結果を当局と共有しました。
- 在米中国大使館の広報担当者は声明で、「中国はあらゆる形態のサイバー攻撃に断固反対し、法に基づき取り締まる」と述べました。
- 広報担当者は、「中国に対する根拠のない攻撃や中傷に反対します」と付け加えました。「関係者には、サイバーインシデントを分析する際に、根拠のない憶測や非難ではなく、十分な証拠に基づいて結論を導き出し、専門的かつ責任ある態度で臨んでいただきたいと考えています。」
攻撃の手口：攻撃者はClaudeを騙し、正当な企業のためにサイバーセキュリティの防御タスクを実行していると思わせました。また、ガードレール の作動を回避するため、悪意のあるリクエストをより小規模で疑わしくないタスクに分割しました。
-
ジェイルブレイク後、クロードは標的のシステムを検査し、高価値データベースをスキャンし、カスタムエクスプロイトコードを作成しました。
-
クロードはまた、機密データにアクセスするためにユーザー名とパスワードを収集し、使用した認証情報、作成したバックドア、侵入されたシステムなどを含む詳細な操作後レポートに作業をまとめました。
-
アンスロピックはブログ投稿で、「最高権限のアカウントが特定され、バックドアが作成され、最小限の人間による監視の下でデータが盗み出されました」と述べています。
脅威レベル：アンスロピックの脅威インテリジェンス責任者であるジェイコブ・クライン氏は、ウォール・ストリート・ジャーナルに対し、中国からの攻撃とみられる攻撃のうち最大4件が組織への侵入に成功したと語りました。
- 「AIは1秒間に数千件のリクエストを送信しました。これは人間のハッカーでは到底匹敵できない攻撃速度です」と、同社はブログ記事で述べています。
確かに、しかし、Claudeは完璧ではありませんでした。ログイン認証情報を幻覚的に生成し、既に公開されている秘密文書を盗んだと主張しました。
注目すべき点：サイバーセキュリティの専門家は、これは始まりに過ぎない可能性が高いと警告しています。警告。
- Anthropicは、検出ツールを強化しており、今後、より高度な技術を持たない攻撃者によって同様の手法が使用される可能性があると警告しました。