OpenAIは金曜日、中国の安全保障活動が、西側諸国のソーシャルメディアサービスにおける反中国的な投稿に関するリアルタイムの報告を集めるために人工知能を利用した監視ツールを構築した証拠を発見したと発表した。
同社の研究者らは、ツールの開発に携わる誰かがOpenAIの技術を使って、その基盤となるコンピュータコードの一部をデバッグしたため、この新しいキャンペーン（彼らが「ピアレビュー」と呼んでいる）を特定したと述べた。
OpenAIの主任研究員ベン・ニモ氏は、同社がこの種のAIを利用した監視ツールを発見したのは今回が初めてだと述べた。
「脅威の担い手は、当社のAIモデルの使い方から、インターネットの他の部分で何をしているのかを垣間見せてくれることがある」とニモ氏は述べた。
AIが監 視、コンピュータハッキング、偽情報キャンペーン、その他の悪意ある目的に使用される可能性があるという懸念が高まっている。ニモ氏のような研究者は、この技術は確かにこうした活動を可能にすると述べているが、AIはそうした行動を特定し阻止するのにも役立つと付け加えている。
ニモ氏と彼のチームは、中国の監視ツールはMetaが開発したAI技術Llamaに基づいていると考えている。Metaは技術をオープンソース化し、つまり世界中のソフトウェア開発者と成果を共有した。
悪意のある欺瞞目的でのAIの使用に関する詳細な報告書の中で、OpenAIは、Sponsored Discontentと呼ばれる別の中国のキャンペーンを発見したとも述べている。このキャンペーンでは、OpenAIの技術を使用して、中国の反体制派を批判する英語の投稿が生成された。
OpenAIによると、同じグループは同社の技術を使用して記事をスペイン語に翻訳し、ラテンアメリカで配信していた。記事は米国の社会と政治を批判していた。
また、OpenAIの研究者らは、カンボジアを拠点としていると思われるキャンペーンを特定した。このキャンペーンは同社の技術を使用してソーシャルメディアのコメントを生成・翻訳し、「豚の屠殺」と呼ばれる詐欺行為を助長していたと報告書は述べている。AIが生成したコメントは、インターネット上で男性を誘惑し、投資計画に巻き込むために使われた。
（ニューヨーク・タイムズは、AIシステムに関連するニュースコンテンツの著作権侵害でOpenAIとマイクロソフトを訴えた。OpenAIとマイクロソフトはこれらの主張を否定している。）