OpenAIは、スペイン語で反米の偽情報を広めることを目的としたキャンペーンを含む、中国の広範な影響力キャンペーンの一環として、同社のAIツールが2回使用されていることを発見し、阻止したと同社は述べた。
重要な理由：AIが偽情報を増幅させ、国家が支援するサイバー攻撃の作業を加速させる可能性は、恐ろしい理論から複雑な現実へと着実に移行している。
ニュースの推進力：OpenAIは金曜日に最新の脅威レポートを公開し、ChatGPTやその他のツールを悪用する取り組みの例をいくつか特定した。
- OpenAIが「スポンサー付きの不満」と名付けたキャンペーンの1つは、ChatGPTアカウントを使用して、中国の反体制活動家である蔡霞を攻撃する英語のコメントと、米国を批判するスペ イン語のニュース記事の両方を生成した。
- 短いコメントの一部はXに投稿され、記事はさまざまなラテンアメリカのニュースサイトに掲載され、場合によってはスポンサー付きコンテンツとなった。
彼らの発言：「我々の知る限り、長文記事をスペイン語に翻訳し、ラテンアメリカで公開する中国の影響力作戦が見つかったのはこれが初めてだ」と、OpenAIの情報調査チームの主任調査員ベン・ニモ氏は記者会見で述べた。
- 「AIの使用に関する我々の見解がなければ、ツイートとウェブ記事との関連を見出すことはできなかっただろう」
OpenAIが「ピアレビュー」と名付けた別のキャンペーンは、ChatGPTを使用してソーシャルメディアリスニングツールのマーケティング資料を作成するアカウントで構成されており、その作成者は、抗議活動の報告を中国の治安機関に送信するために使用されたと主張している。
- OpenAIは、関連アカウントを禁止し、「通信監視や個人の無許可の監視にAIを使用することを禁止する」という会社の方針に違反していると述べた。
- 最新の報告書で指摘されている他のキャンペーンには、いくつかの詐欺、北朝鮮とイランに関連する影響力キャンペーン、ガーナの選挙に影響を与える試みなどがある。
行間を読む：昨年から脅威レポートの公開を開始したOpenAIは、その目的は「中国やその他の権威主義体制が米国や同盟国、そして自国民に対してAIをどう利用しようとするかを理解し、備えるための取り組みに情報を提供するため」だと述べている。
-
新しいレポートが示すように、AIツールは偽情報キャンペーンのさまざまな時点で使用でき、グループの手法、目的、弱点の他の側面を明らかにすることもある。
-
「脅威アクターは、当社のモデルの使用方法から、インターネットの他の部分で何をしているのかを垣間見せてくれることがある」とニモ氏は述べた。
はい、しかし、オープンソースツールがより強力になり、ローカルで実行できるようになると、脅威アクターはより多くのタスクにそれらを使用する可能性があり、そのような取り組みを検出することが難しくなります。
- たとえば、「ピアレビュー」のケースでは、OpenAI は、一部のコードの編集とデバッグに ChatGPT が使用された一方で、DeepSeek や Meta の Llama 3.1 のバージョンなど、オープンソースモデルの使用に関する言及もあったことに気付きました。
「これは非常に興味深いケースで、脅威アクターが少なくともさまざまなモデルの使用について言及しているように見えます」と Nimmo 氏は述べ、これほど多くのツールを使用する動機が何であるかは明らかではないと指摘しました。
- 「彼らは信号を分散させたかったのかもしれません」と彼は言いました。「このようなことが起こっている理由はいくつかあります。」
要点: AI が攻撃者の能力を高め続けるにつれて、AI プロバイダーは攻撃者を追跡して阻止するために、より多くの労力を費やす必要があり、多くの場合、独自のツールの助けを借ります。