Incident 919: Un réseau prétendument lié à la Russie aurait utilisé un deepfake de Maria Ressa sur Facebook et Bing pour promouvoir une arnaque aux cryptomonnaies ciblant les Philippins.
Description: Un réseau d'escroquerie prétendument lié à la Russie aurait diffusé sur Facebook et Microsoft Bing un deepfake généré par IA de la journaliste Maria Ressa. La vidéo aurait manipulé une interview de 2022 pour présenter Ressa comme faisant la promotion des cryptomonnaies. Des sites web frauduleux se faisant passer pour Rappler et CNN Philippines auraient amplifié l'arnaque. Les enquêteurs auraient lié l'opération à un réseau frauduleux ciblant le public philippin. Meta et Microsoft ont supprimé le contenu, mais des escroqueries similaires continueraient de refaire surface.
Entités
Voir toutes les entitésAlleged: Unknown deepfake technology developers et Unknown AI voice cloning developers developed an AI system deployed by TD Globus Contract , Russian-linked scam network et M1 Shop, which harmed Rappler , Public trust in media institutions , Potential cryptocurrency scam victims , Maria Ressa , Filipino social media users et CNN Philippines.
Systèmes d'IA présumés impliqués: Unknown voice cloning technology , Unidentified deepfake generation tools , Microsoft Bing advertising system et Facebook advertising system
Statistiques d'incidents
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
4.3. Fraud, scams, and targeted manipulation
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Malicious Actors & Misuse
Entity
Which, if any, entity is presented as the main cause of the risk
AI
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Intentional
Rapports d'incidents
Chronologie du rapport
Loading...
Le mardi 6 février 2024, des personnes concernées ont alerté Rappler au sujet d'une vidéo deepfake qui donnait l'impression que Maria Ressa, lauréate du prix Nobel de la paix et PDG de Rappler, avait déclaré avoir gagné de l'argent grâce à …
Variantes
Une "Variante" est un incident de l'IA similaire à un cas connu—il a les mêmes causes, les mêmes dommages et le même système intelligent. Plutôt que de l'énumérer séparément, nous l'incluons sous le premier incident signalé. Contrairement aux autres incidents, les variantes n'ont pas besoin d'avoir été signalées en dehors de la base de données des incidents. En savoir plus sur le document de recherche.
Vous avez vu quelque chose de similaire ?
Incidents similaires
Did our AI mess up? Flag the unrelated incidents
Incidents similaires
Did our AI mess up? Flag the unrelated incidents