概要: OpenAIが発表した報告書の中で、同社は、ロシア、中国、イラン、イスラエルの国家機関や民間企業が、世論や地政学的な言説を操作することを目的とした秘密の影響力行使キャンペーンを実施するために、同社の生成AIツールを悪用した経緯を説明した。
Alleged: OpenAI developed an AI system deployed by Zeno Zeno , Spamouflage , Russian government , Israeli government , Iranian government , International Union of Virtual Media , Doppelganger と Chinese government, which harmed United States , Ukraine , social media users , Moldova , Lithuania , Latvia , General public , Estonia と Critics of the Chinese government.
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
4.1. Disinformation, surveillance, and influence at scale
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Malicious Actors & Misuse
Entity
Which, if any, entity is presented as the main cause of the risk
Human
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Intentional
インシデントレポート
レポートタイムライン
OpenAIは木曜日、同社の生成型人工知能技術を使用して世界中の世論を欺いて操作し、地政学に影響を与えた5つのオンラインキャンペーンを特定し、阻止したと発表した。
OpenAIは秘密の影響力キャンペーンに関するレポートで、これらの取り組みはロシア、中国、イラン、イスラエルの国家主体と民間企業によって実行されたと述べた。これらの作戦では、OpenAIの技術を使用してソーシャルメディアの投稿を生成し、記事を翻訳および編集し、見出しを書き、コンピュータープログラムをデバッグし、通常…
Savannah Time というウェブサイトは、自らを「活気あるサバンナ市における保守的なニュースと視点の信頼できる情報源」と称している。別のサイト NioThinker は、「洞察力に富んだ進歩的なニュースの行き先」になりたいとしている。オンライン アウトレットの Westland Sun は、デトロイト郊外のイスラム教徒を対象としているようだ。
どれも見かけ通りではない。むしろ、米国当局者やテクノロジー企業のアナリストが言うところの、今年の米国大統領選挙を左右しようとす…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？
