Incident 801: Les biais dans la détection des deepfakes par l'IA compromettent la sécurité des élections dans les pays du Sud
Description: Les outils de détection de deepfakes par l'IA seraient inefficaces auprès des électeurs des pays du Sud en raison de biais dans leurs données d'entraînement. Ces outils, qui privilégient les profils anglophones et occidentaux, affichent une précision réduite lorsqu'ils détectent des contenus manipulés provenant de régions non occidentales. En raison de cette lacune de détection, l'intégrité des élections est menacée par la désinformation et son amplification, ce qui prive les journalistes et les chercheurs de ressources suffisantes pour lutter contre ce problème.
Entités
Voir toutes les entitésPrésumé : Un système d'IA développé et mis en œuvre par Unknown deepfake detection technology developers , True Media et Reality Defender, a endommagé Global South Citizens , Political researchers , Global South local fact-checkers , Non-native English speakers , Global South journalists et Civil society organizations in developing countries.
Statistiques d'incidents
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
3.1. False or misleading information
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Misinformation
Entity
Which, if any, entity is presented as the main cause of the risk
Human
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Intentional
Rapports d'incidents
Chronologie du rapport
Récemment, l'ancien président et condamné pour crime Donald Trump a publié une série de photos qui semblaient montrer des fans de la pop star Taylor Swift soutenant sa candidature à la présidence des États-Unis. Les images semblaient généré…
Variantes
Une "Variante" est un incident de l'IA similaire à un cas connu—il a les mêmes causes, les mêmes dommages et le même système intelligent. Plutôt que de l'énumérer séparément, nous l'incluons sous le premier incident signalé. Contrairement aux autres incidents, les variantes n'ont pas besoin d'avoir été signalées en dehors de la base de données des incidents. En savoir plus sur le document de recherche.
Vous avez vu quelque chose de similaire ?