OpenAIは木曜日、同社の生成型人工知能技術を使用して世界中の世論を欺いて操作し、地政学に影響を与えた5つのオンラインキャンペーンを特定し、阻止したと発表した。
OpenAIは秘密の影響力キャンペーンに関するレポートで、これらの取り組みはロシア、中国、イラン、イスラエルの国家主体と民間企業によって実行されたと述べた。これらの作戦では、OpenAIの技術を使用してソーシャルメディアの投稿を生成し、記事を翻訳および編集し、見出しを書き、コンピュータープログラムをデバッグし、通常は政治キャンペーンの支持を得たり、地政学的な紛争で世論を動かしたりしていた。
ソーシャルメディアの研究者によると、OpenAIのレポートは、大手AI企業が自社の特定のツールがこのようなオンライン詐欺にどのように使用されたかを明らかにした初めてのケースだ。この技術がオンライン偽情報にどのように寄与するかについて疑問を提起、特に世界中で大きな選挙が行われている年にについて疑問を提起しています。
OpenAIの主任研究員であるベン・ニモ氏は、このようなキャンペーンで生成AIを使用することについてさまざまな憶測が飛び交った後、同社はこの技術がオンライン詐欺をどのように変えているのかという現実を示すことを目指したと述べました。
「私たちのケーススタディは、現在行われている最も広く報道され、最も長く続いている影響力キャンペーンの例を提供している」と同氏は述べた。
ニモ氏によると、キャンペーンはしばしばOpenAIの技術を使用して政治的なコンテンツを投稿したが、特定の選挙をターゲットにしているのか、それとも単に人々を煽動することが目的なのかを同社が判断するのは困難だった。同氏はさらに、キャンペーンはあまり支持を集めることができず、AIツールはリーチや影響力を拡大していないようだと付け加えた。
「これらの影響力作戦は、依然として聴衆の獲得に苦労している」とニモ氏は述べた。
しかし、アトランティック・カウンシルのデジタルフォレンジック研究所のシニアディレクター、グラハム・ブルッキー氏は、生成AI技術がますます強力になるにつれて、オンラインの偽情報の状況が変化する可能性があると警告した。今週、ChatGPTチャットボットを製造しているOpenAIは、新しい主力AIのトレーニングを開始したと発表した。モデル](https://www.nytimes.com/2024/05/28/technology/openai-gpt4-new-model.html) は「次のレベルの機能」をもたらすだろう。
「これは新しいタイプのツールです」とブルッキー氏は述べた。「どのような効果があるかはまだわかりません。」
（ニューヨークタイムズは、AIシステムに関連するニュースコンテンツの著作権侵害を主張して、OpenAIとそのパートナーであるMicrosoftを訴訟した。）
Google、Meta、Microsoftと同様に、OpenAIはソーシャルメディアの投稿を書いたり、フォトリアリスティックな画像を生成したり、コンピュータープログラムを作成したりできるオンラインチャットボットやその他のAIツールを提供している。同社は報告書で、研究者が何年も追跡してきた影響力キャンペーンで同社のツールが使用されていたと述べている。その中には、ロシアの「ドッペルゲンガー」キャンペーンや中国の「スパモフラージュ」キャンペーンなどがある。
ドッペルゲンガーキャンペーンでは、OpenAIの技術を使用して、英語、フランス語、ドイツ語、イタリア語、ポーランド語でXに投稿された反ウクライナのコメントを生成したとOpenAIは述べている。同社のツールは、ウクライナ戦争でロシアを支持する記事を英語とフランス語に翻訳・編集したり、反ウクライナのニュース記事をFacebookの投稿に変換したりするためにも使用された。
OpenAIのツールは、主にTelegramメッセージ ングサービスを介して、ウクライナ、モルドバ、バルト諸国、米国の人々をターゲットにした、これまで知られていなかったロシアのキャンペーンでも使用されたと同社は述べている。このキャンペーンでは、AIを使用して、ウクライナ戦争、モルドバの政治状況、米国の政治について、ロシア語と英語でコメントを生成した。この取り組みでは、Telegramに情報を自動的に投稿するように設計されたと思われるコンピューターコードをデバッグするためにもOpenAIのツールが使用された。
OpenAIによると、政治的なコメントに対する返信や「いいね」はほとんどなかった。また、取り組みが洗練されていないこともあった。ある時点で、キャンペーンは明らかにAIによって生成されたテキストを投稿した。投稿には「AI言語モデルとして、私は支援し、望ましいコメントを提供するためにここにいます」と書かれていた。他の時点では、下手な英語で投稿されたため、OpenAIはこれを「悪い文法」と呼んだ。
長い間中国によるものとされてきたSpamouflageは、コードのデバッグ、ソーシャルメディアの分析方法に関するアドバイスの依頼、時事問題の調査にOpenAIの技術を使用していたとOpenAIは述べた。同社のツールは、中国政府に批判的な人々を中傷するソーシャルメディアの投稿を生成するためにも使用されていた。
国際仮想メディア連合と呼ばれるグループと提携しているイランのキャンペーンは、ウェブサイト上で親イラン、反イスラエル、反米国の感情を広めることを目的とした長文の記事や見出しの作成と翻訳にOpenAIのツールを使用したと、報告書は述べている。
OpenAIが「ゼノ・ゼノ」と名付け たイスラエルのキャンペーンは、政治キャンペーンを管理する企業によって運営されていたと同社は述べた。同社はOpenAIの技術を使用して、イスラエル、カナダ、米国で使用されているソーシャルメディアサービスで実在の人物の代わりとなる架空の人物像や経歴を生成し、反イスラムのメッセージを投稿した。
今日の生成型AIはキャンペーンの効率化に役立つ可能性があるが、これらのツールは多くのAI専門家が予測していたほど説得力のある偽情報の洪水を生み出していないとOpenAIの報告書は述べている。
「これは、AIを利用した影響力操作やAIを利用した偽情報に関する我々の最大の懸念の一部がまだ現実化していないことを示している」と、ソーシャルメディアサービスの操作を追跡し、OpenAIの調査結果を検証したグラフィカの最高情報責任者、ジャック・スタッブス氏は述べた。