OpenAIは、AIソーシャルメディア監視ツールのコードをデバッグおよび編集するためにChatGPTを使用しようとした中国人ユーザーグループのアカウントを禁止したと、同社が金曜日に発表した。OpenAIが「ピアレビュー」と呼ぶこのキャンペーンでは、このグループがChatGPTに、X、Facebook、YouTube、Instagramなどのプラットフォームで反中国感情を監視するために設計されたとされるプログラムのセールストークを作成するよう促した。この作戦は、中国での人権侵害に対する抗議の呼びかけを見つけることに特に関心があり、その洞察を中国当局と共有する意図があったようだ。
「このネットワークは、中国本土の営 業時間と一致する時間パターンで動作し、中国語でモデルにプロンプトし、自動化ではなく手動プロンプトと一致する量と種類でツールを使用したChatGPTアカウントで構成されていました」とOpenAIは述べた。 「オペレーターは、自分たちの洞察が海外の中国大使館や、米国、ドイツ、英国などの国々で抗議活動を監視していた諜報員に送られたという主張を校正するために、当社のモデルを使用していました。」
OpenAIの主任研究員であるベン・ニモ氏によると、同社がこの種のAIツールを発見したのは今回が初めてだという。「脅威アクターは、当社のAIモデルの使用方法から、インターネットの他の部分で何をしているのかを垣間見ることができることがあります」とニモ氏はニューヨークタイムズに語った。
この監視ツールのコードの多くは、Meta の Llama モデル のオープンソース版に基づいているようです。このグループはまた、年末の業績レビューを作成するために ChatGPT を使用したようで、その中で中国のクライアントに代わってフィッシングメールを作成したと主張しています。
「この活動の影響を評価するには、この活動を明らかにできるオープンソースモデルのオペレーターを含む、複数の利害関係者からの意見が必要です」と OpenAI は、この活動が ChatGPT を使用して AI ソーシャルメディア監視ツールのコードを編集する取り組みについて述べています。
また、OpenAIは、米国に亡命して暮らす中国の政治学者 で反体制活動家の蔡霞氏を批判するソーシャルメディア投稿をChatGPTで生成していたアカウントを最近禁止したと発表した。同グループはまた、チャットボットを使用して米国を批判するスペイン語の記事を生成していた。これらの記事はラテンアメリカの「主流」報道機関によって公開され、個人または中国企業によるものとされることが多かった。