概要: AIによって生成された、高品質なディープフェイク動画のシリーズが、リトアニアのテレビ番組、政治家、医師を模倣し、詐欺的な健康製品や反ワクチンの偽情報を宣伝していたと報じられています。主にFacebookを通じて配信されたこれらの動画は、最大15のEU加盟国で視聴されたと報じられています。ファクトチェッカーやサイバーセキュリティの専門家は、このキャンペーンは、信頼できる著名人やメディアになりすまして金銭を搾取することを目的とした、組織的な詐欺ネットワークの一部であると指摘しています。
Alleged: Unknown deepfake technology developers と Unknown voice cloning technology developers developed an AI system deployed by Unknown scammers と Unknown international scam network operating across multiple EU countries, which harmed Aurelijus Veryga , Vytautas Kasiulevičius , Social media users in Lithuania , General public of Lithuania と General public of the European Union.
関与が疑われるAIシステム: Unknown deepfake technology と Unknown voice cloning technology
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
4.3. Fraud, scams, and targeted manipulation
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Malicious Actors & Misuse
Entity
Which, if any, entity is presented as the main cause of the risk
Human
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Intentional
インシデントレポート
レポートタイムライン
Loading...
今月、インターネット上で拡散した、非常に説得力のある一連のフェイクニュース動画が、リトアニアの住民を驚かせました。ディープフェイクと呼ばれる人工知能技術を用いて作成されたこれらの偽動画は、複数のヨーロッパ諸国を標的とした国際的な詐欺ネットワークの一部であると考えられています。
ディープフェイク動画は、リトアニアでよく知られているテレビニュース番組を模倣したもので、ジャーナリスト、政治家、医師を起用した偽のインタビューも含まれています。ある動画では、欧州議会議員で元保健大臣のア…
Loading...
ここ数週間、リトアニアのソーシャルメディアでは、実際のニュース番組を模倣したAI生成のディープフェイク動画が大量に拡散し、偽の医療製品を宣伝したり、ワクチン反対の偽情報を拡散したりしている。
捜査当局はリトアニアの公共放送局LRTに対し、これらの偽動画は複数のヨーロッパ諸国を標的とした国際的な詐欺ネットワークの一部であると述べた。
これらのディープフェイク動画は、リトアニアの有名テレビ番組を模倣し、著名人への偽のインタビューを盛り込んでいる。ある動画では、欧州議会議員で元保健…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents