概要: In a report released by OpenAI, the company described how its generative AI tools were misused by state actors and private companies in Russia, China, Iran, and Israel to conduct covert influence campaigns aimed at manipulating public opinion and geopolitical narratives.
Alleged: OpenAI developed an AI system deployed by Zeno Zeno , Spamouflage , Russian government , Israeli government , Iranian government , International Union of Virtual Media , Doppelganger と Chinese government, which harmed United States , Ukraine , social media users , Moldova , Lithuania , Latvia , General public , Estonia と Critics of the Chinese government.
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
4.1. Disinformation, surveillance, and influence at scale
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Malicious Actors & Misuse
Entity
Which, if any, entity is presented as the main cause of the risk
Human
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Intentional
インシデントレポート
レポートタイムライン
OpenAIは木曜日、同社の生成型人工知能技術を使用して世界中の世論を 欺いて操作し、地政学に影響を与えた5つのオンラインキャンペーンを特定し、阻止したと発表した。
OpenAIは秘密の影響力キャンペーンに関するレポートで、これらの取り組みはロシア、中国、イラン、イスラエルの国家主体と民間企業によって実行されたと述べた。これらの作戦では、OpenAIの技術を使用してソーシャルメディアの投稿を生成し、記事を翻訳および編集し、見出しを書き、コンピュータープログラムをデバッグし、通常…
Savannah Time というウェブサイトは、自らを「活気あるサバンナ市における保守的なニュースと視点の信頼できる情報源」と称している。別のサイト NioThinker は、「洞察力に富んだ進歩的なニュースの行き先」になりたいとしている。オンライン アウトレットの Westland Sun は、デトロイト郊外のイスラム教徒を対象としているようだ。
どれも見かけ通りではない。むしろ、米国当局者やテクノロジー企業のアナリストが言うところの、今年の米国大統領選挙を左右しようとす…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
