Bienvenido ala base de datos de incidentes de IA
Incidente 1297: Blogger Milagro Gramz Allegedly Promoted AI-Generated Pornographic Deepfake Targeting Megan Thee Stallion
“Megan Thee Stallion gana demanda por difamación contra bloguera”Último informe
MIAMI --- Un jurado federal falló el lunes a favor de Megan Thee Stallion y acordó que un bloguero difamó y acosó a la rapera, pero limitó la indemnización por daños y perjuicios a menos de seis cifras.
El panel federal, compuesto por cinco hombres y cuatro mujeres, falló a favor de Megan, la artista cuyo verdadero nombre es Megan Pete, en su demanda contra la bloguera Milagro Gramz, cuyo verdadero nombre es Milagro Cooper.
La demanda se centró en el material que Cooper publicó después de que el músico de R&B Tory Lanez le disparara a Megan hace cinco años.
Inicialmente, el jurado otorgó a Megan 75.000 dólares, que la jueza federal de distrito Cecilia M. Altonaga redujo a 59.000 dólares en un fallo final emitido el martes.
"Agradecemos el compromiso del jurado de reforzar la importancia de la verdad, la rendición de cuentas y los comentarios responsables en las redes sociales", declaró la abogada de la demandante, Mari Henderson, en un comunicado.
Milagro no solo está siendo responsabilizada de pagar a Megan daños compensatorios y punitivos, sino que la disposición legal de Florida que regula la transferencia de honorarios la obligará a cubrir los costos legales de Megan en la demanda por deepfake. Este veredicto envía un mensaje claro: difundir desinformación peligrosa conlleva consecuencias significativas.
La artista no respondió a las preguntas de los periodistas al salir del tribunal el lunes.
Cooper no parecía estar particularmente complacido ni angustiado por las conclusiones del panel.
"No estoy exultante", dijo Cooper. "Por supuesto que quieres que las cosas salgan como quieres, pero como dije, respeto al jurado y lo que decidió".
Su abogado, Jeremy McLymont, dijo estar agradecido de que el jurado no haya otorgado una indemnización de siete dígitos.
"Respetamos el veredicto del jurado. Siempre hay que hacerlo, ¿verdad? Estémos de acuerdo o no, lo respetamos", dijo.
"Al final, no fue una victoria completa para ninguna de las partes". Megan acusó a Cooper de ser un "portavoz", un "títere" y un "representante a sueldo" de Lanez, quien le disparó en Los Ángeles el 15 de julio de 2020.
El jurado determinó que Cooper incitó deliberadamente a sus miles de seguidores en X e Instagram a ver un video deepfake sexualmente explícito de Megan que había estado circulando en redes sociales.
En resumen, el veredicto del jurado respalda la sentencia a favor de la demandante en sus alegaciones de infligir intencionalmente angustia emocional y promover una representación sexual alterada, escribió el juez Altonaga.
La demandante tiene derecho a una indemnización por daños y perjuicios de 59.000 dólares, la cantidad que el jurado fijó como indemnización compensatoria y punitiva por esas dos alegaciones.
Lanez le disparó a Megan en el pie después de que la pareja saliera de una fiesta en casa de Kylie Jenner en 2020.
Un jurado de Los Ángeles declaró a Lanez, cuyo verdadero nombre es Daystar Peterson, culpable de tres cargos por delitos graves el 23 de diciembre de 2022: agresión con arma de fuego semiautomática, portación de un arma de fuego cargada y no registrada en un vehículo y disparo de arma de fuego con negligencia grave.
Fue condenado a hasta 10 años de prisión (https://www.nbcnews.com/pop-culture/pop-culture-news/tory-lanez-sentenced-10-years-shooting-megan-thee-stallion-foot-rcna98737).
Megan dijo que ha estado lidiando con problemas de salud mental desde el tiroteo y el acoso por parte del bloguero.
Incidente 1301: Purported AI-Generated Sexual Deepfakes Allegedly Deployed in Transnational Harassment Campaign Targeting Hong Kong Exiles
“Activista de Hong Kong aterrorizada por el envío de imágenes deepfake sexualmente explícitas a vecinos del Reino Unido”
Una activista de Hong Kong, exiliada en el Reino Unido, declaró el jueves que estaba "conmocionada y aterrorizada" tras descubrir que sus vecinos habían recibido cartas con imágenes sexualmente explícitas de ella generadas por inteligencia artificial.
Carmen Lau, de 30 años, activista prodemocracia y exconcejala en Hong Kong, afirmó creer que las cartas, que están siendo investigadas por la policía, fueron el último intento de China por intimidarla.
Lau, al igual que otros refugiados hongkoneses de alto perfil en el Reino Unido, descubrió a principios de este año que sus vecinos habían recibido cartas animándolos a entregarla a la embajada china, ofreciendo recompensas de decenas de miles de libras.
El 11 de noviembre, Joshua Reynolds, su diputado local por la ciudad de Maidenhead, al oeste de Londres, le comunicó que los residentes le habían informado de que "habían recibido nuevas cartas en sus puertas", según declaró Lau a AFP.
Los sobres llevaban un sello de la región china de Macao, explicó.
AFP no ha visto una copia de las cartas.
"Hay cinco imágenes con mi cara, ya sea desnuda o en ropa interior, y como si actuaran o indicaran que soy una trabajadora sexual que presta servicios", dijo Lau.
Las cartas también incluían información personal como el nombre, la altura y el peso de Lau, y una nota que parecía un anuncio de una trabajadora sexual, "como si invitara a la gente a venir a mi piso", dijo.
"Me quedé impactada y aterrorizada, pero al mismo tiempo, bastante enfadada", dijo en la entrevista telefónica.
"Incluso ahora dudo bastante en ir al pueblo porque, como saben, Maidenhead es un pueblo muy pequeño, y no tengo ni idea de la difusión de las imágenes ni de cómo pensaría la gente".
Desde entonces se ha mudado de la propiedad, como hizo después de recibir la primera serie de cartas, pero dijo que la "carga psicológica" fue lo peor.
Dijo que se trataba de una "guerra psicológica para impedirnos seguir con lo que hemos estado haciendo".
En diciembre de 2024, la policía de Hong Kong anunció recompensas de 1 millón de dólares de Hong Kong (unos 130.000 dólares estadounidenses) por información que condujera al arresto de Lau y otros cinco activistas radicados en el extranjero, acusados de delitos contra la seguridad nacional.
Comunicaciones maliciosas
La disidencia política en Hong Kong ha sido reprimida desde que Pekín impuso una amplia ley de seguridad nacional en 2020.
Reynolds, quien confirmó el relato de Lau, calificó de "absolutamente grotescos" los esfuerzos de Pekín por intimidar y amenazar a hongkoneses como ella.
"El gobierno no puede esconder la cabeza cuando se trata de la seguridad de los hongkoneses en nuestro país", declaró a la AFP.
"Debe tomar medidas decisivas para demostrar que no toleraremos la campaña de represión internacional de Pekín".
Un portavoz de la embajada china en el Reino Unido desestimó las acusaciones.
"Hemos leído el informe", declaró el portavoz. "La historia suena extraña", añadió, y añadió que se trataba únicamente del relato de Lau.
Un portavoz de la Policía de Thames Valley afirmó que los agentes estaban investigando denuncias de un "delito de comunicaciones maliciosas" relacionado con "imágenes alteradas digitalmente".
Un portavoz del gobierno británico declaró: "La seguridad de los hongkoneses en el Reino Unido es de suma importancia".
"Animamos a cualquier persona a que informe a la policía sobre cualquier inquietud".
Incidente 1302: Reported Viral AI-Generated Photo Purportedly Shows Donald Trump Using a Walker
“No se dejen engañar por la foto que muestra a Trump usando un andador”
Afirmación:
Una imagen publicada en línea a mediados de diciembre de 2025 mostraba con autenticidad al presidente de Estados Unidos, Donald Trump, usando un andador.
Calificación: [

Falso
A mediados de diciembre de 2025, circuló en línea una imagen (archivada) que supuestamente mostraba al presidente de Estados Unidos, Donald Trump, usando un andador como ayuda para la movilidad.
Keith Edwards, un estratega político demócrata, publicó la imagen en X, escribiendo: "ÚLTIMA HORA: se filtró una imagen que muestra a Trump usando un andador momentos después de firmar una orden ejecutiva que prohíbe a los estados regular IA"
Edwards anteriormente lideró las comunicaciones](https://www.cbsnews.com/news/the-lincoln-project-republican-social-media-trump-60-minutes-2020-10-11/) para The Lincoln Project](https://lincolnproject.us/), un grupo de exrepublicanos opositores al presidente.
La imagen circuló principalmente en X (archivada), pero también apareció en Facebook (archivado), Hilos (archivado) y Bluesky (archivado). Asimismo, numerosos lectores de Snopes nos contactaron para preguntarnos si era auténtica.
En resumen, Snopes no encontró ninguna prueba de que la imagen de Trump usando un andador como ayuda para la movilidad fuera auténtica. Fue creada mediante software de inteligencia artificial; por lo tanto, la hemos calificado como falsa.
Usuarios de redes sociales publicaron intercambios (archivado, archivado) con Gemini, el asistente de inteligencia artificial de Google, que aparentemente indicaban que la imagen contenía SynthID, una marca de agua digital desarrollada por Google que se incrusta directamente en los píxeles de una imagen, haciéndola imperceptible para el ojo humano, pero detectable por las herramientas de Google.
Gemini confirmado encontró SynthID en la imagen de Trump y el caminante cuando Snopes repitió el proceso. Su mensaje decía: "Según la detección, parece que la mayor parte o la totalidad de esta imagen fue editada o generada con la IA de Google". 
(Google Gemini)
Otra imagen falsa popular que circula en línea, que muestra a Trump usando un caminante dorado. incluido [Géminis](https://www.google.com/search?q=gemini+logo&sca_esv=f0158aba78c19323&rlz=1C5CHFA_enGB1138GB1138&udm=2&biw=1920&bih=845& ei=7jo8acj_AvSPhbIPidfY2QM&ved=0ahUKEwjIrsvRtLiRAxX0R0EAHYkrNjsQ4dUDCBI&uact=5&oq=geminis+logo&gs_lp=Egtnd3Mtd2l6LWltZyILZ2VtaW5pIGxvZ28yCxA Marca de agua AGIAEGLEDGIMBMgUQABiABDIFEAAYgAQyBRAAGIAEMgUQABiABDIFEAAYgAQyBRAAGIAEMgUQABiABDIFEAAYgAQyBRAAGIAESIYMUKsIWNYKcAJ4AJABAJgBO6AB5AGqAQE0uAEDyAEA-AEBmAIGoAKBAsICBhAAGAcYHsICChAAGIAEGEMYigXCAggQABiABBixA5gDAIgGAZIHATagB50UsgcBNLgH9wHCBwUwLjMuM8gHFYAIAA&sclient=gws-wiz-img) en la esquina inferior derecha.
Snopes contactó a Edwards, quien aparentemente fue el primero en compartir la imagen, y a la Casa Blanca para obtener comentarios. Esperamos respuestas a nuestras consultas.
Sightengine y Hive Moderation, otros dos detectores de IA en línea, descubrieron que era muy probable que la imagen fuera generada por IA.

(Sightengine/Hive Moderation/Ilustración de Snopes)
Al buscar "andador O movilidad O ayuda, 'Donald Trump'", se encontró no ejemplos (archivado) de medios de comunicación de buena reputación que informaron sobre la imagen como auténtica la semana pasada (Edwards usó la palabra "de última hora", sugiriendo que la foto falsa era nueva). De hecho, numerosos medios de comunicación también desmintieron la imagen.
La afirmación circuló mientras Trump firmaba una orden ejecutiva para crear un estándar nacional mínimamente gravoso para regular la IA. empresas](https://www.whitehouse.gov/presidential-actions/2025/12/eliminating-state-law-obstruction-of-national-artificial-intelligence-policy/#:~:text=My%20Administration%20must%20act%20with%20the%20Congress%20to%20ensure%20that%20there%20is%20a%20minimally%20burdensome%20national%20standard%20%E2%80%94%20not%2050%20discordant%20State%20ones.) en los EE. UU. La [orden ejecutiva Declaró Permitir que los estados legislen individualmente sobre IA, como ocurría anteriormente, creó "un mosaico de 50 regímenes regulatorios diferentes que dificulta el cumplimiento, especialmente para las empresas emergentes". Algunos usuarios de redes sociales parecieron interpretar la publicación de Edwards como una broma (https://x.com/LucBerkefeld/status/1999423788564496554?s=20) (https://x.com/TheDazzleNovak/status/1999342941538779576?s=20); sin embargo, al momento de escribir este artículo, no había respondido a una pregunta de Snopes sobre si pretendía que la publicación fuera una sátira.
Para mayor información, Snopes investigó previamente una fotografía que supuestamente mostraba al presidente sentado junto a su hija Ivanka Trump con la lengua afuera (https://www.snopes.com/fact-check/trump-ivanka-tongue-photo/) y un video de él [quedándose dormido] (https://www.snopes.com/fact-check/trump-fall-asleep-cabinet-meeting/) durante una reunión del Gabinete de la Casa Blanca.
Incidente 1303: USGS ShakeAlert System Reportedly Generated False Earthquake Alert Affecting Nevada and California
“El USGS afirma que el informe del terremoto de Nevada fue falso y atribuye el error al sistema automático.”
El Servicio Geológico de Estados Unidos (USGS) informó el jueves que su sistema automático de detección de terremotos había enviado erróneamente un informe ese mismo día sobre un temblor de magnitud 5,9 en Nevada, afirmando que probablemente era la primera vez que el USGS emitía un informe de terremoto completamente falso.
Yaareb Altaweel, geofísico del Centro Nacional de Información Sísmica del USGS en Golden, Colorado, explicó que el USGS aún intentaba comprender por qué su sistema automático de alerta temprana ShakeAlert envió la alerta errónea de un terremoto con epicentro cerca de Dayton, Nevada.
El informe provocó que los teléfonos celulares en el área de la Bahía de San Francisco, a unos 290 kilómetros de distancia, vibraran con una advertencia a los residentes: "¡AGÁCHESE! ¡CUBRASE! ¡AGUERRE!", según un testigo de Reuters.
"Que yo sepa, nunca hemos tenido una falsa alerta como esta", declaró Altaweel. "El sistema ha emitido información incorrecta sobre magnitud o profundidad exageradas, que fue corregida inmediatamente por el sismólogo de turno. Ya he visto esto antes". Angie Lux, científica del proyecto de alerta temprana de terremotos del Laboratorio Sismológico de Berkeley, también afirmó que, según su conocimiento, nunca antes se había producido una falsa alerta de un terremoto de gran magnitud.
Lux desconocía la causa de la falsa alerta y afirmó que tomaría tiempo comprenderla.
Lux indicó que la causa podría haber sido "desencadenantes ruidosos", refiriéndose a ruidos localizados de fuentes naturales o artificiales, como explosiones, obras de construcción, actividades industriales o incluso vehículos grandes como trenes o camiones. Los fenómenos naturales que desencadenan estos fenómenos incluyen el viento y las olas del océano.
Varias agencias policiales en ciudades y condados cercanos al epicentro reportado confirmaron que no habían percibido temblores ni otras señales de un terremoto.
Un terremoto de magnitud 5,9 normalmente es lo suficientemente fuerte como para causar daños materiales leves y temblores pronunciados, según la [Escala de magnitud de terremotos de Michigan Tech]. (https://www.mtu.edu/geo/community/seismology/learn/earthquake-measure/magnitude/)
Incidente 1305: UK Facial Recognition System Reportedly Exhibits Higher False Positive Rates for Black and Asian Subjects
“El Ministerio del Interior admite problemas con la tecnología de reconocimiento facial en sujetos negros y asiáticos”
Los ministros se enfrentan a peticiones de medidas de seguridad más estrictas para el uso de la tecnología de reconocimiento facial después de que el Ministerio del Interior admitiera que es más probable que identifique incorrectamente a personas negras y asiáticas que a sus homólogos blancos en algunos entornos.
Tras las últimas pruebas realizadas por el Laboratorio Nacional de Física (NPL) sobre la aplicación de la tecnología en la base de datos nacional de la policía, el Ministerio del Interior afirmó que era "más probable que incluya incorrectamente a algunos grupos demográficos en sus resultados de búsqueda".
Los comisionados de policía y delincuencia afirmaron que la publicación de los hallazgos del NPL "pone de manifiesto un preocupante sesgo intrínseco" e instaron a la cautela ante los planes de expansión nacional.
Los hallazgos se publicaron el jueves, horas después de que Sarah Jones, ministra de policía, describiera la tecnología como el "mayor avance desde la comparación de ADN".
La tecnología de reconocimiento facial escanea los rostros de las personas y luego compara las imágenes con listas de vigilancia de delincuentes conocidos o buscados. Puede utilizarse al examinar imágenes en directo de personas que pasan frente a las cámaras, comparando sus rostros con los de las listas de buscados, o ser utilizado por agentes para localizar a personas que pasan frente a las cámaras instaladas.
Las imágenes de sospechosos también pueden analizarse retrospectivamente en las bases de datos policiales, de pasaportes o de inmigración para identificarlos y verificar sus antecedentes.
Los analistas que examinaron la herramienta de tecnología de reconocimiento facial retrospectivo de la base de datos nacional de la policía con una configuración más baja descubrieron que «la tasa de identificación de falsos positivos (FPIR) para sujetos blancos (0,04%) es menor que la de sujetos asiáticos (4,0%) y sujetos negros (5,5%)».
Las pruebas posteriores revelaron que el número de falsos positivos para mujeres negras era particularmente alto. «La FPIR para sujetos negros masculinos (0,4%) es menor que la de sujetos negros femeninos (9,9%)», según el informe.
La Asociación de Comisionados de Policía y Crimen declaró en un comunicado que los hallazgos mostraban un sesgo inherente. Decía: “Esto ha significado que, en algunas circunstancias, es más probable que se empareje incorrectamente a personas negras y asiáticas que a sus contrapartes blancas. El lenguaje es técnico, pero tras los detalles parece claro que la tecnología se ha implementado en la policía operativa sin las garantías adecuadas”.
La declaración, firmada por los líderes de la APCC, Darryl Preston, Alison Lowe, John Tizard y Chris Nelson, cuestionaba por qué los hallazgos no se habían publicado antes ni se habían compartido con las comunidades negras y asiáticas.
Decía: “Si bien no hay evidencia de impacto adverso en ningún caso individual, esto se debe más a la suerte que al diseño. Las fallas del sistema se conocen desde hace tiempo, pero no se compartieron con las comunidades afectadas ni con los principales actores del sector”.
El gobierno anunció una consulta pública de 10 semanas que espera allanar el camino para un uso más frecuente de la tecnología. Se preguntará al público si la policía debería poder acceder a otras bases de datos, incluyendo imágenes de pasaportes y permisos de conducir, para rastrear a los delincuentes.
Funcionarios públicos están trabajando con la policía para establecer un nuevo sistema nacional de reconocimiento facial que almacenará millones de imágenes.
Charlie Whelton, responsable de políticas y campañas del grupo activista Liberty, declaró: «El sesgo racial en estas estadísticas demuestra las consecuencias negativas reales de permitir que la policía utilice el reconocimiento facial sin las debidas garantías. Con miles de búsquedas al mes que utilizan este algoritmo discriminatorio, ahora quedan serias preguntas por responder sobre cuántas personas de color fueron identificadas falsamente y qué consecuencias tuvo esto.
Este informe es una prueba más de que esta poderosa y opaca tecnología no puede utilizarse sin garantías sólidas que nos protejan a todos, incluyendo transparencia real y una supervisión significativa. El gobierno debe detener la rápida implantación de la tecnología de reconocimiento facial hasta que estas estén implementadas para protegernos a todos y priorizar nuestros derechos, algo que sabemos que la ciudadanía desea».
El exministro del gabinete David Davis expresó su preocupación después de que los líderes policiales afirmaran que las cámaras podrían instalarse en centros comerciales, estadios y centros de transporte para buscar a delincuentes buscados. Declaró al Daily Mail: "Bienvenidos a la Gran Bretaña. Es evidente que el gobierno pretende implementar esta tecnología distópica en todo el país. Algo de esta magnitud no debería ocurrir sin un debate exhaustivo y detallado en la Cámara de los Comunes".
Las autoridades afirman que la tecnología es necesaria para ayudar a detectar a los delincuentes más graves. Afirman que existen salvaguardas manuales, incluidas en la formación, las prácticas operativas y las directrices policiales, que exigen que todas las posibles coincidencias obtenidas de la base de datos nacional de la policía sean evaluadas visualmente por un usuario capacitado y un agente investigador.
Un portavoz del Ministerio del Interior declaró: "El Ministerio del Interior se toma muy en serio las conclusiones del informe y ya hemos tomado medidas". Se ha probado y adquirido de forma independiente un nuevo algoritmo que no presenta sesgo estadísticamente significativo. Se probará a principios del próximo año y será objeto de evaluación.
Dada la importancia de este problema, también hemos solicitado a la inspección policial, junto con el organismo regulador de la ciencia forense, que revise el uso del reconocimiento facial por parte de las fuerzas del orden. Evaluarán la eficacia de las medidas de mitigación, que cuentan con el apoyo del Consejo Nacional de Jefes de Policía.
Enviar URL Rapidamente
Acerca de la Base de Datos
La base de datos de incidentes de IA está dedicada a indexar el historial colectivo de daños o casi daños realizados en el mundo real por el despliegue de sistemas de inteligencia artificial. Al igual que bases de datos similares en aviación y seguridad informática, la base de datos de incidentes de IA tiene como objetivo aprender de la experiencia para que podamos prevenir o mitigar los malos resultados.
Estás invitado a enviar informes de incidentes, después de lo cual los envíos se indexarán y se harán visibles para el mundo. La inteligencia artificial solo será un beneficio para las personas y la sociedad si registramos colectivamente y aprendemos de sus fallas. (Más información)

Investigación de incidentes de IA para construir un futuro más seguro: el Instituto de Investigación de Seguridad Digital se asocia con Responsible AI Collaborative
By TheCollab Board of Directors
2024-02-20
El Instituto de Investigación de Seguridad Digital (DSRI) de los Institutos de Investigación de UL se está asociando con Responsible AI Coll...
La Base de Datos en la Prensa
Lea acerca de la base de datos en PAI Blog, Vice News, Venture Beat, Wired y arXiv entre otros puntos de venta.
Rankings de Reportadores de Incidentes
Estas son las personas y entidades acreditadas con la creación y presentación de informes de incidentes. Hay más detalles disponibles en la página de rankings.
El Informe de Incidentes de IA

Create an account to subscribe to new incident notifications and other updates.
Incidentes Aleatorios
El Colaborativo de IA Responsable
La base de datos de incidentes de IA es un proyecto de Responsible AI Collaborative, una organización autorizada para promover la base de datos de incidentes de IA. La gobernanza de la Colaborativa se estructura en torno a la participación en su programación de impacto. Para obtener más detalles, lo invitamos a leer el informe de fundación y obtener más información sobre nuestro and learn more on our.

Vea el Formulario 990 de la Colaborativa de IA Responsable y la solicitud de exención de impuestos.
Patrocinador fundador de la organización
Patrocinador fundador de la base de datos






