中国政府が支援するハッカー集団が、9月に行われたハッキング作戦で、アンスロピック社の人工知能（AI）技術を用いて大企業や外国政府への侵入を自動化したと、アンスロピック社は木曜日に発表した。
アンスロピック社の脅威インテリジェンス責任者であるジェイコブ・クライン氏によると、この作戦は数十の標的を対象とし、同社のサイバーセキュリティ調査員がこれまで見たことのないレベルの自動化が行われたという。
ハッカー集団は長年にわたり、フィッシングメールの作成やインターネット上の脆弱なシステムのスキャンといった個別のタスクの実行にAIを活用してきたが、今回の攻撃では攻撃の80～90％が自動化されており、人間はわずかな判断ポイントに介入しただけだとクライン氏は述べた。
クライン氏によると、ハッカー集団は「文字通りボタンをクリックするだけで、その後は最小限の人間による介入で」攻撃を実行したという。アンスロピック社は作戦を阻止し、ハッカー集団のアカウントをブロックしたが、その前に最大4件の侵入が成功していた。あるケースでは、ハッカーたちはアンスロピック社のAIツール「クロード」に、内部データベースへのクエリとデータの抽出を独自に指示していました。
「人間は、いくつかの重要なチョークポイントでのみ、『はい、続けてください』『続けないでください』『情報をありがとうございます』『ああ、それはおかしいですね、クロード、よろしいですか？』と指示していました。」
ハッキングタスクをほぼ自律的な攻撃に組み合わせることは、ハッカーたちにさらなる規模とスピードをもたらす自動化のトレンドにおける新たな一歩です。
今夏、サイバーセキュリティ企業「ヴォレクシティ」は、中国が支援するハッカーたちがAIツールを使用して、企業、研究機関、非政府機関に対するハッキングキャンペーンの一部を自動化しているのを発見しました。ヴォレクシティの社長であるスティーブン・アデア氏によると、ハッカーたちは大規模な言語モデルを用いて、誰を標的にするか、フィッシングメールをどのように作成するか、そして被害者に感染させるために使用する悪意のあるソフトウェアをどのように記述するかを判断していたとのことです。 「AIは、脅威アクターがより迅速に、より多くのことを実行できるようにしている」と彼は述べた。
先週、Googleは、ロシア政府と関係のあるハッカーが、AIモデルを用いてカスタマイズ されたマルウェアの指示をリアルタイムで生成し、ウクライナを攻撃したと報じた。
米国政府当局者は長年にわたり、中国が米国のAI技術を標的にし、米国企業や政府機関にハッキングしてデータを盗もうとしていると警告してきた。
ワシントンD.C.の中国大使館の報道官は、サイバー攻撃の追跡は複雑であり、米国がサイバーセキュリティを利用して中国を「中傷」していると非難した。「中国はあらゆる形態のサイバー攻撃に断固として反対し、取り締まる」と彼は述べた。
アントロピック社は、ハッカーたちが侵入を試みた企業や政府を明らかにしなかったものの、約30の標的を検知したと述べた。成功したハッキングの中には、機密情報の窃取に成功したものもあった。同社は、米国政府は侵入に成功した被害者ではないとしているが、米国政府機関が標的となったかどうかについてはコメントを控えている。
アントロピック社は、ハッカーたちが利用したデジタルインフラやその他の手がかりに基づき、攻撃は中国政府支援のハッカーによって実行されたと確信していると述べた。
ハッカーたちは、オープンソースのAIツールをハッキングに利用することが多い。オープンソースコードは無料で入手でき、悪意のある活動に対する制限を解除するように改変できるからだ。しかし、クロードを使って攻撃を実行するために、中国と関係のあるハッカーたちは、ジェイルブレイクと呼ばれる手法を用いてアントロピック社の安全対策を回避する必要があった。今回のケースでは、クロード社に対し、標的のためにセキュリティ監査を実施していると伝える必要があった。
「今回 のケースでは、彼らは正当なセキュリティテスト機関に所属しているふりをしていた」とクライン氏は述べた。
ハッカーたちは、脆弱性のスキャンからデータの窃取まで、攻撃の各段階を、警告が出ない個別のタスクに分解するシステムも構築したと、同社は述べている。
アントロピック社は、攻撃後、悪用を検知するための手法を更新し、将来的に攻撃者がクロードを使って同様の攻撃を行うことを困難にしたと述べている。
自動化されたハッキングは完全に自律的ではなく、いわゆるAIの幻覚がミスを招いていた。クライン氏は、一部のハッキング試行について、「実際にはアクセスできていないのに、『この内部システムにアクセスできた』と誤認識することがあった」と述べている。「アクセスや能力を誇張して見せかけることもあり、それが人間による確認を必要としたのだ」。
AIエージェントを用いた攻撃は、AIツールの二重使用の危険性を浮き彫りにしている。アンスロピックは、AIを活用してサイバーセキュリティ防御を強化したいと述べている。しかし、AIシステムの強化は攻撃者の強化にもつながる。
アンスロピックは、既知の脆弱性の発見など、攻撃者よりも防御側にメリットをもたらすAIスキルの構築に注力していく戦略だと述べている。
「こうしたツールは、物事を加速させるだけだ」と、アンスロピックで壊滅的なリスクをテストするチームを率いるローガン・グラハム氏は述べた。「防御側に非常に大きな永続的な優位性を与えなければ、この競争に負けてしまうのではないかと懸念している」