Bienvenido a

la base de datos de incidentes de IA

Un gran conjunto de datos de imágenes utilizado para desarrollar herramientas de IA para la detección de desnudez contiene varias imágenes de material de abuso sexual infantil (MASI), según el Centro Canadiense para la Protección de la Infancia (C3P).

El conjunto de datos NudeNet, que contiene más de 700.000 imágenes extraídas de internet, se utilizó para entrenar un clasificador de imágenes de IA capaz de detectar automáticamente la desnudez en una imagen. C3P descubrió que más de 250 trabajos académicos citaron o utilizaron el conjunto de datos NudeNet desde que se pudo descargar de Academic Torrents, una plataforma para compartir datos de investigación, en junio de 2019.

"Una revisión no exhaustiva de 50 de estos proyectos académicos reveló que 13 utilizaron el conjunto de datos NudeNet y 29 se basaron en el clasificador o modelo NudeNet", declaró C3P en su comunicado.

C3P encontró más de 120 imágenes de víctimas identificadas o conocidas de abuso sexual infantil en el conjunto de datos, incluyendo casi 70 imágenes centradas en la zona genital o anal de niños con preadolescencia confirmada o aparente. "En algunos casos, imágenes que representan actos sexuales o abusivos que involucran a niños y adolescentes, como la felación o la penetración pene-vaginal", declaró C3P.

Las personas y organizaciones que descargaron el conjunto de datos no tendrían forma de saber que contenía material de abuso sexual infantil a menos que lo buscaran, y lo más probable es que no lo hicieran, pero tener esas imágenes en sus equipos sería técnicamente un delito.

"El material de abuso sexual infantil es ilegal, y su alojamiento y distribución generan enormes responsabilidades para los creadores e investigadores. Además, existe un problema ético mayor, ya que es casi seguro que las víctimas de estas imágenes no dieron su consentimiento para su distribución y uso en la formación", me explicó en un correo electrónico Hany Farid, profesor de la Universidad de California en Berkeley y uno de los principales expertos mundiales en imágenes manipuladas digitalmente. Farid también desarrolló PhotoDNA, una herramienta ampliamente utilizada de identificación de imágenes y filtrado de contenido. "Aunque el fin sea noble, en este caso no justifica los medios". Muchos de los modelos de IA utilizados para dar soporte a las funciones de aplicaciones e iniciativas de investigación se han entrenado con datos recopilados de forma indiscriminada o éticamente cuestionable. Esta falta de diligencia debida ha provocado la aparición de material conocido de abuso y explotación sexual infantil en este tipo de conjuntos de datos, algo que es en gran medida prevenible, declaró Lloyd Richardson, director de tecnología de C3P.

Academic Torrents eliminó el conjunto de datos después de que C3P emitiera un aviso de eliminación a sus administradores.

Al operar la línea nacional de denuncia de Canadá para denunciar la explotación sexual infantil, recibimos información o pistas del público a diario, me explicó Richardson por correo electrónico. En el caso del conjunto de datos de imágenes de NudeNet, una persona expresó su preocupación por la posibilidad de que el conjunto de datos contuviera material de abuso sexual infantil, lo que nos impulsó a investigarlo más a fondo.

Los hallazgos de C3P son similares a una investigación de 2023 del Centro de Política Cibernética de la Universidad de Stanford, que descubrió que LAION-5B, uno de los conjuntos de datos más grandes que alimentan imágenes generadas por IA, también contenía material de abuso sexual infantil (MASI) (https://www.404media.co/laion-datasets-removed-stanford-csam-child-abuse/). La organización que gestiona LAION-5B lo eliminó de internet tras ese informe y solo lo volvió a compartir una vez que eliminó las imágenes ofensivas.

"Estos conjuntos de datos de imágenes, que normalmente no han sido verificados, se promocionan y distribuyen en línea para que cientos de investigadores, empresas y aficionados los utilicen, a veces con fines comerciales", me explicó Richardson. A estas alturas, pocos consideran el posible daño o explotación que pueden causar sus productos. Tampoco podemos olvidar que muchas de estas imágenes son, en sí mismas, evidencia de delitos de abuso sexual infantil. En la fiebre de la innovación, estamos viendo muchos daños colaterales, pero muchos simplemente no los reconocen. En definitiva, creo que tenemos la obligación de desarrollar la tecnología de IA de forma responsable y ética.

Actualización: Esta historia ha sido actualizada con el comentario de Lloyd Richardson.

Kate Garraway afirmó que las imágenes falsas generadas por IA de ella y su "nueva pareja" ficticia habían sido "dolorosas" para sus hijos.

La estrella de Good Morning Britain perdió a su "querido" esposo Derek Draper en enero de 2024, tras una larga batalla contra la salud causada por complicaciones de la COVID-19.

Ahora, dos años después de su muerte, la presentadora de ITV ha sido víctima de un engaño en línea, según informa Mirror.

La mujer de 58 años dijo que al principio se rió de las imágenes falsas, pero rápidamente se dio cuenta del impacto que los falsos rumores tenían en ella y en los dos hijos de Derek. Kate recurrió a Instagram para abordar los rumores y dijo: "Llevo meses preguntándome cosas (incluso quienes me conocen muy bien) sobre cosas que circulan y que son totalmente falsas.

"Por un lado, es muy dulce que la gente se preocupe por mi vida, pero es muy confuso, y en algunos casos, doloroso para los niños cuando son noticias falsas".

Abordó el tema en un artículo para The Sun, explicando que las parejas imaginarias eran coprotagonistas y amigos, como Richard Arnold o Ben Shephard.

Kate escribió en la publicación: "Nos reímos".

Sin embargo, añadió: "El punto de inflexión para mí fue cuando me di cuenta del impacto que esto podría tener en mis hijos y también en la familia de Derek". Apareció un titular, supongo que enviado por un algoritmo, que decía: 'Todo lo que necesitas saber sobre el nuevo novio de Kate Garraway'.

Dijo que estaba "atónita e intrigada" por saber más sobre el nuevo hombre en su vida, que en realidad no existía, pero que un detalle la "dejó paralizada".

Kate estaba furiosa por las afirmaciones de que su hijo no era feliz y quería que su madre terminara su "relación".

La estrella de la televisión dijo que el joven de 16 años ya tenía suficiente con lo que lidiar sin que hubiera informes que afirmaran que estaba obstaculizando la felicidad de su madre, insistiendo en que él era "lo contrario".

"Cuando todo se puede fingir, las pruebas empiezan a perder su significado", dijo, y añadió que una vez que la confianza se erosionaba, era "extremadamente difícil recuperarla".

Anteriormente, les dijo a sus seguidores de Instagram: "Gracias a Dios que todavía tenemos periodistas 'humanos' de verdad, pero esto es algo que todos debemos tener en cuenta al publicar nuestras 'noticias' en internet: que sea una fuente confiable.

"En este caso, solo me afecta a mí y es fundamentalmente absurdo, pero imagínense si fuera algo más importante, ¿el daño que podría causar?"

Afirmación:

Una foto compartida en línea en diciembre de 2025 mostraba con autenticidad al vicepresidente estadounidense J. D. Vance discutiendo con su esposa, Usha Vance, en un restaurante.

Calificación:

Falso

En diciembre de 2025, una imagen circulada en redes sociales supuestamente mostraba al vicepresidente estadounidense J. D. Vance discutiendo con su esposa, Usha Vance, en un restaurante.

La imagen parecía mostrar a J. D. Vance con una camiseta blanca y una expresión seria, sentado frente a Usha Vance. Un usuario de Facebook que lo compartió (https://www.facebook.com/photo/?fbid=122152603934841298&set=a.122103529394841298) (archivado) escribió:

Parece que las cosas no van muy bien en Republicanistán. Usha es liberal. Siempre lo ha sido. Al parecer, estaban discutiendo a un volumen tan alto que silenció el restaurante. ¿Por qué lleva camiseta?

La imagen circuló en otros sitios en Facebook y X (archivada aquí y aquí). En resumen, era falsa.

Después de que Snopes publicara inicialmente su artículo, el YouTuber Keith Edwards contactó para confirmar que la imagen era falsa. una [miniatura](https://external-sea5-1.xx.fbcdn.net/emg1/v/t13/5747085207477642820?stp=dst-src&url=https%3A%2F%2Fi.ytimg.com%2Fvi%2Fxz4hXCfWO_8%2Fmaxresdefault.jpg&utld=ytimg.com&_nc_gid=pbs O479mq5OPhwv6NzM64w&_nc_oc=AdkvUMxMcObEcIx0zT6Wrxtcq14j7lWDlqEFdWVS_v9scC6nNFNJVAkT8DSbQmuvHBk&ccb=13-1&oh=06_Q3-6Abzlpq6uIuPYeNHwP5fIKJH_iPFHdfG_82wpX8XsZMRc&oe=693BFB35&_nc_sid=1d65fc) que creó para un vídeo de octubre de 2025, calificándolo de "falso". Edwards nos contó que utilizó la plataforma de inteligencia artificial ChatGPT para crear la imagen. La miniatura coincidía con la imagen que circulaba en redes sociales. En ambas, el hombre tenía la misma expresión facial y la mujer estaba en la misma posición. Una búsqueda inversa de imágenes no nos condujo a ninguna versión anterior de la imagen inventada.

El propio JD Vance pareció respaldar la conclusión de que la imagen era falsa en una publicación de X del 9 de diciembre (archivada), respondiendo a un usuario que compartió la imagen con un comentario que parecía burlarse del rumor: "Siempre uso camiseta cuando salgo en público para pelearme a gritos con mi esposa".

También analizamos la imagen con tres plataformas de detección de IA: Hive, Sightengine e Image Whisperer. Sightengine estimó una probabilidad del 97 % de que la imagen fuera generada por IA, mientras que Image Whisperer concluyó con "alta confianza" que sí lo era.

Sin embargo, Hive marcó la imagen como "poco probable que contenga contenido generado por IA o deepfake". Cabe destacar que estas herramientas no siempre son precisas y sus resultados deben interpretarse con cautela.

Antes de la confirmación de Edwards, el equipo de GetReal Security, especializado en la autenticación de medios digitales, también analizó la imagen para Snopes.

Hany Farid, cofundador de GetReal y profesor de la Universidad de California en Berkeley, nos comentó que la baja calidad de la imagen dificultaba el análisis forense. Sin embargo, el equipo encontró anomalías biométricas que sugieren que la imagen podría ser generada por IA o simplemente una foto de alguien que se parece a [JD] Vance.

En particular, los rasgos faciales de la imagen no coinciden con imágenes contemporáneas de Vance, añadió Farid. Las imágenes contemporáneas son fotos tomadas aproximadamente al mismo tiempo que se utilizan para verificar la autenticidad de otra imagen.

Matthew Stamm, profesor asociado de ingeniería eléctrica e informática en la Universidad de Drexel, declaró a Snopes que él y su estudiante de doctorado analizaron la imagen para determinar si fue generada por IA, utilizando una herramienta forense especializada que detecta sutiles huellas dactilares dejadas por la IA generativa. Stamm afirmó que la herramienta determinó con un 95 % de certeza aproximadamente que no podía detectar rastros de la IA generativa.

Sin embargo, advirtió que esto no prueba la autenticidad de la imagen ni descarta definitivamente su generación por IA. Factores como su tamaño, baja resolución y su reiterada difusión en redes sociales dificultaron el análisis, alterando "la calidad de los rastros forenses que analizamos, de forma similar a cómo se difuminan las huellas dactilares en la escena de un crimen", explicó Stamm.

La imagen inventada se difundió en internet en medio de rumores de una ruptura en el matrimonio de los Vance, que comenzaron a extenderse en octubre de 2025. Fotos de Usha Vance sin su anillo de bodas tomadas el mes siguiente alimentaron aún más la especulación.

Sin embargo, un portavoz declaró a USA Today en un comunicado del 21 de noviembre que Usha Vance "es madre de tres niños pequeños, lava muchos platos, baña mucho y a veces olvida su anillo". Otras imágenes de Getty Images disponibles públicamente de noviembre mostraron a Usha Vance luciendo su anillo de bodas.

En un comunicado de diciembre de noviembre, Usha Vance "es madre de tres niños pequeños, lava muchos platos, baña mucho y a veces olvida su anillo". 4 En una entrevista con NBC News](https://www.nbcnews.com/politics/jd-vance/jd-vance-marriage-usha-strong-rcna247419), JD Vance dijo que el matrimonio de la pareja es "tan fuerte como siempre lo ha sido".

Mientras el Servicio de Inmigración y Control de Aduanas (ICE) se apresuraba a incorporar 10,000 nuevos agentes a su fuerza, un error de inteligencia artificial en el procesamiento de sus solicitudes envió a muchos nuevos reclutas a oficinas locales sin la capacitación adecuada, según dos funcionarios policiales familiarizados con el error.

La herramienta de IA utilizada por el ICE tenía la tarea de buscar posibles solicitantes con experiencia en la aplicación de la ley para ser incluidos en el "programa LEO" (abreviatura de agente de la ley) de la agencia, dirigido a nuevos reclutas que ya son agentes de la ley. Requiere cuatro semanas de capacitación en línea.

Los solicitantes sin experiencia en la aplicación de la ley deben realizar un curso presencial de ocho semanas en la academia del ICE en el Centro Federal de Capacitación para la Aplicación de la Ley en Georgia, que incluye cursos sobre derecho migratorio y manejo de armas, así como pruebas de aptitud física.

"Estaban usando IA para escanear currículums y descubrieron que muchos de los que eran agentes de la ley no lo eran", dijo uno de los funcionarios.

La herramienta de IA fue inicialmente el mecanismo utilizado para categorizar currículums, según informaron los funcionarios, y marcó a cualquiera que tuviera la palabra "oficial" en su currículum; por ejemplo, un "oficial de cumplimiento" o personas que afirmaron aspirar a ser agentes del ICE.

La mayoría de los nuevos solicitantes fueron marcados como agentes del orden público, según los funcionarios, pero muchos no tenían experiencia en ninguna policía local ni en ninguna fuerza policial federal.

Ambos funcionarios policiales señalaron que las oficinas locales del ICE ofrecen más capacitación que la que se ofrece en la academia o en el curso en línea antes de que los agentes sean enviados a las calles, y que los agentes seleccionados por la herramienta de IA probablemente recibieron dicha capacitación. Los funcionarios no estaban autorizados a hablar públicamente y hablaron con NBC News bajo condición de anonimato.

Un portavoz del DHS lo calificó como un "problema tecnológico" que se solucionó rápidamente y afirmó que afectó a unos 200 empleados que posteriormente se presentaron al Centro Federal de Capacitación para las Fuerzas del Orden Público para recibir capacitación completa. El portavoz afirmó que ningún candidato fue asignado a funciones policiales sin la "capacitación y las credenciales adecuadas".

"La gran mayoría de los nuevos agentes incorporados durante el aumento repentino de contrataciones son agentes del orden con experiencia que ya han completado con éxito una academia policial", declaró el portavoz.

El error de la IA se identificó a mediados de otoño, más de un mes después del inicio del aumento repentino de reclutamiento, y el ICE comenzó a tomar medidas de inmediato para remediar la situación, incluyendo revisiones manuales de los currículos de los nuevos empleados, según informaron los funcionarios.

A medida que la agencia de inmigración aumenta el número de agentes en las ciudades estadounidenses, sus tácticas de control son cada vez más cuestionadas por las fuerzas del orden locales, grupos comunitarios y legisladores tras la muerte a tiros de Renee Nicole Good en Minneapolis a manos del agente del ICE Jonathan Ross.

Ross tenía más de 10 años de experiencia en el ICE (https://www.nbcnews.com/news/us-news/ice-officer-jonathan-ross-veteran-spent-decade-dhs-rcna253254) y no habría sido sometido a la evaluación de inteligencia artificial para nuevos reclutas.

El error pone de relieve el desafío de entrenar a un número tan grande de nuevos reclutas, ya que el ICE continúa intensificando sus operaciones para aumentar las cifras de deportación ante la presión de la Casa Blanca. El ICE también ha incluido a algunos nuevos reclutas en un programa de capacitación antes de que completaran el proceso de selección de la agencia, según informó NBC News.

Tan solo en Minneapolis, más de 2000 agentes del ICE han sido enviados a la zona para impulsar los arrestos, y han detenido a más de 2400 personas desde el 29 de noviembre, según informó la portavoz del DHS, Tricia McLaughlin. Minnesota ha demandado para intentar eliminar al DHS.

El ICE tenía el mandato de contratar a 10 000 nuevos agentes para finales de 2025 y ofreció a los nuevos reclutas bonificaciones por contratación de 50 000 dólares con los fondos que el Congreso asignó en virtud de la Ley One Big Beautiful. Uno de los funcionarios afirmó que, si bien el ICE cumplió la meta en teoría, el hecho de que las personas identificadas erróneamente regresaran para recibir más capacitación significa que no logró incorporar 10 000 agentes del ICE a las calles en 2025.

El Departamento de Transporte de EE. UU. trajo un autobús automatizado a Washington D. C. esta semana para mostrar su trabajo en vehículos autónomos. El autobús, fabricado por la empresa Beep, seguía su ruta fija cuando fue impactado por un Tesla con matrícula de Maryland, cuyo conductor intentaba cambiar de carril, informaron las autoridades. El autobús contaba con un conductor humano al volante como refuerzo, según lo exige la ciudad. El conductor del Tesla permaneció en el lugar de los hechos en la calle H durante unos 10 minutos. No se llamó a la policía.

"El servicio se suspendió temporalmente después de que otro vehículo realizara un cambio de carril ilegal y chocara con la parte trasera del autobús autónomo, lo que provocó daños estéticos menores en ambos vehículos", declaró un portavoz de Beep en un comunicado. "El autobús autónomo funcionó correctamente en ese momento y, tras una revisión, se determinó que era seguro reanudar el servicio".

Beep está trabajando con el Departamento de Transporte y la Universidad Carnegie Mellon en un programa piloto de autobuses públicos automatizados. El vehículo fue llevado a Washington D. C. para una conferencia anual que reúne a investigadores y legisladores del sector del transporte, donde funcionarios de la administración Trump destacaron el interés de la Casa Blanca en la conducción autónoma.

"Una de las prioridades del presidente [Donald] Trump, que nos fue encomendada a través del secretario [Sean P.] Duffy, es acelerar el despliegue comercial de vehículos autónomos, y todos estamos comprometidos con ello*", declaró Peter Simshauser, asesor principal de la Administración Nacional de Seguridad del Tráfico en las Carreteras (NHTSA), durante una mesa redonda celebrada el lunes en la conferencia.

Simshauser trabajó anteriormente en Motional, una empresa de robotaxi de Hyundai, cuyo lanzamiento está previsto para este año en Las Vegas. En la mesa redonda sobre la "agenda de innovación" de la administración también participó Seval Oz, subsecretario de transporte para investigación, quien trabajó en el programa de vehículos autónomos de Google, que posteriormente se convirtió en Waymo, y en sensores y software para la conducción autónoma.

Calificó las aproximadamente 40,000 muertes en carretera al año en EE. UU. como una "epidemia" que los vehículos autónomos podrían ayudar a erradicar. "Pero la autonomía también cambiará nuestras ciudades. Cambiará la forma en que vemos la conducción", afirmó.

A nivel nacional, varias ciudades y estados cuentan con robotaxis y autobuses que implementan la conducción totalmente autónoma, y muchas más están realizando pruebas y planes comerciales para una expansión agresiva en los próximos años. Los líderes de distrito han estado considerando permitir coches y autobuses automatizados durante casi una década, y Waymo y otras empresas están interesadas en operar taxis autónomos en la ciudad. Sin embargo, las autoridades afirman que aún esperan un informe largamente esperado sobre la mejor manera de regular los vehículos antes de permitir su circulación sin supervisión humana.

Cualquier accidente con un vehículo automatizado, por leve que sea, debe reportarse a la NHTSA. Según la agencia, se han registrado seis accidentes previos con vehículos automatizados en pruebas en Washington D. C.