Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Traducido por IA

Incidente 835: La tecnología de inteligencia artificial supuestamente alimenta informes falsos sobre desastres naturales y accidentes en China

Traducido por IA
Descripción:
Traducido por IA
En China, se informó que se utilizaron herramientas de inteligencia artificial para inventar y difundir informes falsos sobre desastres, como un deslizamiento de tierra en Yunnan, un terremoto en Sichuan y una muerte súbita tras un accidente de tráfico. El 27 de mayo de 2024, se produjo un terremoto real de magnitud 5,0 en el condado de Muli, Sichuan, sin víctimas y con daños materiales limitados. Sin embargo, una publicación posterior en redes sociales afirmó falsamente que el epicentro se encontraba en el condado de Xide y exageró la gravedad del evento, añadiendo imágenes falsas de destrucción extensa. Quienes difundieron estos informes falsos han recibido sanciones administrativas de las autoridades chinas por sus acciones.
Editor Notes: Incident 835 presents multiple discrete AI-related incidents, each pointing to the wider application of AI tools to fabricate events and spread misinformation on social media throughout China, similar to Incident 834. Anonymous names like "Moumou" are used to preserve privacy in reporting. The following is a reconstruction of the timeline of events associated with this incident ID: (1) 1/23/2024, a fabricated landslide incident in Yunnan: Yang Moumou allegedly used AI tools to create and share a fake news article claiming that a landslide in Yunnan had resulted in eight deaths. That misinformation was posted on social media to attract views and engagement. Authorities identified the incident as AI-driven misinformation, and Yang was subsequently given an administrative penalty. (2) 5/27/2024, a real 5.0-magnitude earthquake occurred in Muli County, Sichuan. It resulted in minor property damage but no casualties. However, this actual event would later become the basis for an exaggerated AI-fabricated narrative. (3) 6/9/2024, a fabricated earthquake report in Xide County, Sichuan: Luo Moumou reportedly used AI to enhance and circulate a false report about the May 27 earthquake, falsely claiming the epicenter was in Xide County, Sichuan, with severe property damage and casualties. The fabricated images and videos spread quickly on social media, which led to confusion and alarm. Luo received an administrative penalty for disseminating false information. (4) Sometime in June 2024, a fabricated fatal traffic incident in Chengcheng County: Tian Mou used AI to create and post a story claiming that a middle-aged woman in Chengcheng County suffered a fatal heart attack after her electric scooter was impounded during a traffic stop. The narrative was designed to generate an emotional response for the purposes of driving engagement, but it misled the public. Tian admitted to fabricating the story using AI and was issued an administrative penalty.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial

Entidades

Ver todas las entidades
Alleged: Unknown deepfake technology developer y Unknown AI developers developed an AI system deployed by Yang Moumou , Tian Mou y Lou Moumou, which harmed Yunnan general public , Xide County in Sichuan residents , Sichuan general public , Muli County in Sichuan residents , Chinese general public , Chinese citizens y Chengcheng County Shaanxi residents.

Estadísticas de incidentes

ID
835
Cantidad de informes
1
Fecha del Incidente
2024-08-06
Editores
Daniel Atherton
Applied Taxonomies
MIT

Clasificaciones de la Taxonomía MIT

Machine-Classified
Detalles de la Taxonomía

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

3.1. False or misleading information

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Misinformation

Entity

Which, if any, entity is presented as the main cause of the risk
 

Human

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Intentional

Informes del Incidente

Cronología de Informes

+1
Los órganos de seguridad pública investigan y abordan los rumores en línea | Las imágenes pueden no contener necesariamente la verdad. Tenga cuidado con los rumores sobre IA.
Los órganos de seguridad pública investigan y abordan los rumores en línea | Las imágenes pueden no contener necesariamente la verdad. Tenga cuidado con los rumores sobre IA.

Los órganos de seguridad pública investigan y abordan los rumores en línea | Las imágenes pueden no contener necesariamente la verdad. Tenga cuidado con los rumores sobre IA.

baijiahao.baidu.com

Los órganos de seguridad pública investigan y abordan los rumores en línea | Las imágenes pueden no contener necesariamente la verdad. Tenga cuidado con los rumores sobre IA.
baijiahao.baidu.com · 2024
Traducido por IA

En los últimos años, las tecnologías de la información representadas por el big data, la inteligencia artificial (IA), etc. han ido cambiando cada día que pasa. Al mismo tiempo, la tecnología de síntesis de herramientas de inteligencia arti…

Variantes

Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.
¿Has visto algo similar?

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Robot in Chinese Shopping Mall Fell off the Escalator, Knocking down Passengers

Robot in Chinese Shopping Mall Fell off the Escalator, Knocking down Passengers

Dec 2020 · 2 informes
YouTube’s Recommendation Algorithm Allegedly Promoted Climate Misinformation Content

YouTube’s Recommendation Algorithm Allegedly Promoted Climate Misinformation Content

Feb 2019 · 2 informes
Student-Developed Facial Recognition App Raised Ethical Concerns

Student-Developed Facial Recognition App Raised Ethical Concerns

Oct 2021 · 1 informe
Incidente AnteriorSiguiente Incidente

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Robot in Chinese Shopping Mall Fell off the Escalator, Knocking down Passengers

Robot in Chinese Shopping Mall Fell off the Escalator, Knocking down Passengers

Dec 2020 · 2 informes
YouTube’s Recommendation Algorithm Allegedly Promoted Climate Misinformation Content

YouTube’s Recommendation Algorithm Allegedly Promoted Climate Misinformation Content

Feb 2019 · 2 informes
Student-Developed Facial Recognition App Raised Ethical Concerns

Student-Developed Facial Recognition App Raised Ethical Concerns

Oct 2021 · 1 informe

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 69ff178