献立作成、セラピー、エッセイ執筆、高度に洗練された世界規模のサイバー攻撃など、最新のAIチャットボットの革新的な活用法は次々と生み出されています。
今週、人工知能（AI）企業Anthropicが、同社の主力AIアシスタント「Claude」が中国のハッカーに利用されたと発表したことで、憂慮すべき新たな節目を迎えました。同社はこれを[https://archive.is/o/OT9ju/https://www.anthropic.com/news/disrupting-AI-espionage]「初めて報告されたAIを活用したサイバースパイ活動」と呼んでいます。
Anthropicが発表した報告書によると、同社は9月中旬、GTG-1002と呼ばれるグループによる大規模なサイバースパイ活動を検知しました。この活動は「複数の国にまたがる大手テクノ ロジー企業、金融機関、化学製造会社、政府機関」を標的としていました。
このような攻撃は珍しくありませんが、今回の攻撃が際立っているのは、その80～90%がAIによって実行されたことです。人間のオペレーターが標的組織を特定した後、Claudeを用いて組織内の重要なデータベースを特定し、脆弱性をテストし、データベースにアクセスして重要なデータを抽出するための独自のコードを記述しました。人間は、AIに指示を与え、その動作を確認するという、ごく一部の重要な局面でのみ関与しました。
Claudeは、他の主要な大規模言語モデルと同様に、この種の活動に利用されることを防ぐための安全策を備えています。しかし、攻撃者は、タスクをより小さく、一見無害な部分に分割し、Claudeに自分たちは防御テストを行っているサイバーセキュリティ企業だと偽ることで、プログラムを「脱獄」することができました。これは、ClaudeやChatGPTのようなモデルの安全対策がどの程度回避されるのかという、いくつかの厄介な疑問を提起します。特に、これらのモデルが生物兵器の開発に利用される やその他の危険な現実世界の物質への利用の可能性に対する懸念が高まっています。
Anthropicは、Claudeが作戦中に「資格情報を幻覚的に提示したり、実際には公開されている秘密情報を抽出したと主張したりした」ことを認めています。国家支援のハッカーでさえ、AIによる捏造には注意が必要です。
この報告 書は、AIツールによってサイバー攻撃の実行がはるかに容易かつ迅速化され、機密性の高い国家安全保障システムから一般市民の銀行口座に至るまで、あらゆるものの脆弱性が高まるという懸念を提起しています。
これは何を意味するのでしょうか？ --------------------
とはいえ、まだ完全なサイバーアナーキーには至っていません。クロードにこれを実行させるために必要な技術的知識レベルは、平均的なインターネット荒らしの域をはるかに超えています。しかし、専門家たちは長年にわたり、AIモデルが詐欺やスパイ活動のための悪意のあるコードを生成するために利用される可能性があると警告してきました。これは「バイブハッキング」と呼ばれる現象です。2月には、Anthropicの競合企業であるOpenAIが、中国、イラン、北朝鮮、ロシアの悪意のあるアクターが自社のAIツールをサイバー攻撃に利用しているのを検出したと報告しました。
9月、新アメリカ安全保障センター（CNAS）はAIを活用したハッキングの脅威に関する報告書を発表しました。報告書では、ほとんどのサイバー作戦において、最も時間とリソースを費やすのは計画、偵察、そしてツール開発の段階であると説明されています（攻撃自体は通常、迅速に行われます）。これらのタスクを自動化することで、AIは攻撃においてゲームチェンジャーとなる可能性があります。そして、 今回の攻撃ではまさにそれが起こったようです。
CNASの報告書の著者であるケイレブ・ウィザーズ氏は、Voxに対し、アンスロピック社の発表は、AI能力の近年の進歩を考慮すると「トレンドに乗っている」と述べ、「AIによってほぼ自律的に、このようなことを実行できる洗練度は、今後も向上し続けるだろう」と述べています。
中国の影のサイバー戦争
アントロピック社は、ハッカーたちが中国人であることを特定できる十分な手がかりを残したと述べているが、在米中国大使館は、この行為を「中傷と誹謗」と表現している。
ある意味、これはアントロピック社と米国AI業界全体にとって皮肉な収穫と言えるだろう。今年初め、中国の大規模言語モデル DeepSeekがワシントンとシリコンバレーに衝撃を与え、AI言語モデルの開発に必要な先進的な半導体チップへの中国からのアクセスを抑制しようとする米国の取り組みにもかかわらず、中国のAI技術の進歩は米国にわずかに遅れをとっているだけであることを示唆しました。したがって、中国のハッカーでさえ、サイバー攻撃には依然として米国製のチャットボットを好んでいるという事実は、少なくともある程度はそれを物語っているようです。
過去1年間、米国を標的とする中国のサイバー攻撃の規模と高度化に対する懸念が高まっています。これらには、Volt Typhoonのような例があります。これは、米国と中国の間で大きな危機や紛争が発生した場合に攻撃を実行 できるように、国家が支援するサイバーアクターを米国のITシステムに先制的に配置するキャンペーンです。また、数十か国の通信会社を標的とし、ドナルド・トランプ大統領やJD・ヴァンス副大統領などの当局者の通信を標的としたスパイ活動である[昨年の大統領選挙中に]。トランプ陣営のハッキング対策を巡る動き（https://archive.is/o/OT9ju/https://www.nytimes.com/2024/10/25/us/politics/trump-vance-hack.html）。
当局者らは、これらの攻撃の規模と巧妙さは、これまで目にしたことのないほどに深刻だと述べている。これは、AI時代に今後起こるであろう事態の予兆に過ぎない可能性もある。