OpenAIは、人工知能（AI）を使って西側ソーシャルメディア上の反中国コンテンツをリアルタイムで監視する中国政府の活動が暴露されたとニューヨークタイムズ紙が報じた。
研究者らがPeer Reviewと名付けたこのAIベースのシステムは、専門家らがこのスパイウェアの基盤となるコードをデバッグするためにOpenAIツールが使用されていることに気づいた後に発見された。
「これほど強力なAIベースの監視システムを見たのは初めてだ」とOpenAIの主任研究者ベン・ニモ氏は述べた。「脅威アクターは、当社のAIモデルの使い方から、インターネットの他の部分で何をしているのかを垣間見せてくれることがある」
OpenAIによると、 中国の監視システムはMetaが開発したLlamaモデルに基づいている。Llamaはオープンソースとしてリリースされたため、このプログラムの作成に使用された。
さらに、OpenAI は、Sponsored Discontent と呼ばれる別の中国のキャンペーンを発見しました。このキャンペーンは、OpenAI ツールを使用して中国の反体制派をターゲットにした英語のコンテンツを作成しました。このグループは、米国を批判する記事を翻訳し、ラテンアメリカでスペイン語で配信しました。
OpenAI のレポートでは、他の脅威も強調されています。特に、同社は、AI を使用して「豚の屠殺」と呼ばれる詐欺計画に参加したカンボジアのキャンペーンを発見しました。これは、オンラインデートを求める男性をターゲットにし、詐欺師が彼らと関係を築き、AI を使用して説得力のあるソーシャルメディアコメントを作成することで投資計画に誘い込むという詐欺です。
OpenAI は、リスクがあるにもかかわらず、人工知能は悪意のある活動を検出して防止するための強力なツールにもなり得ると指摘しています。