インシデントのステータス
Risk Subdomain
3.1. False or misleading information
Risk Domain
- Misinformation
Entity
AI
Timing
Post-deployment
Intent
Unintentional
インシデントレポート
レポートタイムライン
AIID編集者注:PDFレポートの全文は原文をご覧ください。
中国共産党による強引な検閲法と偽情報キャンペーンは、世界のAIデータ市場におけるプロパガンダと検閲の蔓延をもたらしました。米国のAI搭載チャットボットは、特定のトピックについて質問されると、中国語と英語で中国共産党のプロパガンダを繰り返すようになり、世界のAI開発と米国の国家安全保障に重大な影響を及ぼしています。
主要なAIチャットボットは、センシティブな話題について質問されると、中国共産党(CCP)のプロパガンダや検閲を再現している。
アメリカ 安全保障プロジェクト(ASP)によると、中国共産党による広範な検閲と偽情報の拡散活動は、世界のAIデータ市場を汚染している。こうした学習データの浸透は、Google、Microsoft、OpenAIなどの著名なAIモデルを含むAIモデルが、中国政府の政治的言説と一致する回答を生成することがあることを意味している。
ASPの研究者たちは、大規模言…

スクープ
研究者らが中国のウイグル人収容所について質問したところ、DeepSeekのオープンソースAIモデルの一つは、収容所の存在を示す証拠はないと主張した。しかし、そのDeepSeekのオープンソースモデルを基に作成、あるいは抽出されたAIモデルに同じ質問をしたところ、中国政府がウイグル人を「収容施設」に拘束している証拠があると回答した。
DeepSeekやMoonshotといった中国版オープンソースAIモデルは、純粋な中国製モデルが従う検閲ガイドラインに必ずしも従ってい…