Incidente 801: El sesgo en la detección de deepfakes por inteligencia artificial socava la seguridad electoral en el Sur Global
Descripción: Según informes, las herramientas de IA para la detección de deepfakes están fallando a los votantes del Sur Global debido a sesgos en sus datos de entrenamiento. Estas herramientas, que priorizan el inglés y los rostros occidentales, muestran una precisión reducida al detectar contenido manipulado de regiones no occidentales. Como resultado de esta brecha de detección, la integridad electoral se ve amenazada por la desinformación y su amplificación, lo que deja a periodistas e investigadores con recursos insuficientes para combatir el problema.
Entidades
Ver todas las entidadesPresunto: un sistema de IA desarrollado e implementado por Unknown deepfake detection technology developers , True Media y Reality Defender, perjudicó a Global South Citizens , Political researchers , Global South local fact-checkers , Non-native English speakers , Global South journalists y Civil society organizations in developing countries.
Estadísticas de incidentes
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
3.1. False or misleading information
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Misinformation
Entity
Which, if any, entity is presented as the main cause of the risk
Human
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Intentional
Informes del Incidente
Cronología de Informes
Recientemente, el expresidente y delincuente convicto Donald Trump publicó una serie de fotos que parecían mostrar a los fanáticos de la estrella del pop Taylor Swift apoyando su candidatura a la presidencia de los EE. UU. Las imágenes pare…
Variantes
Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.
¿Has visto algo similar?