Skip to Content
logologo
AI Incident Database
Donar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Vista espacial
  • Blog
  • Resumen de noticias de IA
  • Incidente aleatorio
  • Registrarse
Descubrir
Enviar
  • Bienvenido a la AIID
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Vista espacial
  • Blog
  • Resumen de noticias de IA
  • Incidente aleatorio
  • Registrarse

Bienvenido a
la base de datos de incidentes de IA

Loading...
Incident report: AI agents attempted exploits on our website during a third-party alignment evaluation

Incidente 1828: AI Agents Operated by Safety-Testing Firm Trajectory Labs Attempted Website Exploits and Impersonated Staff at AI Research Organization Epoch AI

“Incident report: AI agents attempted exploits on our website during a third-party alignment evaluation”Último informe
epoch.ai2026-11-15

Overview

In late October, three events occurred during alignment evals run by Trajectory Labs, PBC (Trajectory) in which AI agents — identified by Trajectory as publicly available frontier models — interacted with Epoch employees and the Epoch website. Trajectory is an organization that builds safety evals and conducts red-teaming of frontier models. To avoid misattributing behavior, this report does not name any AI models or developers, as Epoch AI has not independently verified which were involved.

The first event, which occurred without Epoch’s approval or prior notice from Trajectory,

Leer Más
Loading...
El fin de la identidad del Dr. Erik Breclj

Incidente 1819: Según se informa, un vídeo supuestamente alterado por IA mostraba falsamente a un cirujano esloveno promocionando Detoxil Water, un supuesto remedio contra los parásitos.

Traducido por IA
“El fin de la identidad del Dr. Erik Breclj”
zdravniskazbornica.si2026-11-14

La Cámara Médica de Eslovenia advierte nuevamente sobre un caso de engaño y usurpación de identidad de un médico en publicaciones en línea que explotan la angustia de la gente y confunden al público.

Constatamos que se trata de un uso indebido reiterado de la identidad del Dr. Erik Brecelj, miembro de nuestra cámara. Su identidad fue utilizada indebidamente en un video publicado en el siguiente enlace: https://www.facebook.com/share/1AEH1YggiB/

Se trata de una grabación editada con inteligencia artificial, en la que se utiliza un video real, pero se han modificado el contenido, el sonido y otros elementos. La grabación atribuye al médico una declaración que nunca hizo.

El propósito de esta publicación es promocionar el producto Detoxil Water, utilizando afirmaciones falsas y engañosas, como: «Es una locura tratarlo con pastillas», que «8 de cada 10 enfermedades relacionadas con el envejecimiento son causadas por parásitos» y que un simple producto «elimina el 98% de los parásitos en 72 horas». Estas afirmaciones carecen por completo de fundamento, son falsas y pueden poner en grave peligro la salud de las personas.

Enfatizamos expresamente que el Dr. Erik Brecelj no vende ni promociona ningún medicamento, suplemento alimenticio ni otro preparado, y no está asociado con la publicidad de dicho producto. Utilizar su identidad para este fin constituye una manipulación inaceptable.

Hemos presenciado esta práctica en numerosas ocasiones: anunciantes desconocidos utilizan indebidamente los nombres e imágenes de médicos eslovenos y les atribuyen declaraciones falsas, consejos de salud y experiencias personales con productos ficticios. De esta manera, las personas que buscan ayuda de buena fe quedan expuestas a estafas peligrosas.

El Colegio de Médicos de Eslovenia insta nuevamente al público a extremar la precaución con los anuncios en línea que prometen efectos rápidos o "milagrosos", utilizan imágenes de médicos y presentan supuestas recomendaciones profesionales no verificables.

Estos anuncios implican una explotación y un engaño sistemáticos de los consumidores, por lo que les advertimos una vez más: no se dejen engañar. Ya hemos notificado este caso de robo de identidad a la Inspección de Mercados y Salud, a la Agencia Pública de la República de Eslovenia para Medicamentos y Dispositivos Médicos y a la policía.

Leer Más
Loading...
En relación con la suspensión de la "Operación de demostración del autobús de conducción autónoma de la ciudad de Toyooka"

Incidente 1825: El autobús autónomo a2z ROii chocó contra un muro de piedra al borde de la carretera durante una prueba con pasajeros en Toyooka, Japón.

Traducido por IA
“En relación con la suspensión de la "Operación de demostración del autobús de conducción autónoma de la ciudad de Toyooka"”
city.toyooka.lg.jp2026-11-14

El servicio de autobuses autónomos, que comenzó hoy, se suspenderá por las siguientes razones:

1. Motivo de la suspensión

Se produjo un accidente en Kinosaki-cho, ciudad de Toyooka, en el que un autobús autónomo colisionó con un muro de piedra.

Para garantizar la seguridad en el futuro, el servicio se suspenderá hasta que se realice una investigación sobre la causa y se confirme su seguridad.

2. Periodo de suspensión

Desde el 9 de noviembre de 2026 (lunes) hasta que se completen las revisiones de seguridad.

3. Detalles del accidente

(1) Hora del incidente: 11:31 a. m., 9 de noviembre (lunes)

(2) Lugar: Junto a la parada de autobús "Motoyakushi" en Yushima, ciudad de Kinosaki

(3) Detalles del accidente: El autobús detectó un vehículo grande que se aproximaba y viró bruscamente a la izquierda para evitarlo, pero chocó contra un muro de piedra.

(4) Causa del accidente: Desconocida (actualmente en investigación)

(5) Pasajeros: 2 turistas, 2 ciudadanos, 2 personas relacionadas con el servicio (excluyendo al operador y al responsable de seguridad)

*Ningún pasajero ni miembro de la tripulación sufrió lesiones.

4. Otros

(1) Se informará a los ciudadanos y turistas mediante los letreros de las paradas de autobús y la página web de la ciudad.

(2) La causa se anunciará en cuanto se determine.

(3) La fecha de reanudación del servicio se anunciará en cuanto se decida.

Leer Más
Loading...
Aviso a nuestros pacientes sobre incidentes de seguridad de datos

Incidente 1823: Según informes, el departamento de investigación radiológica de Weill Cornell Medicine en la ciudad de Nueva York utilizó datos de pacientes en herramientas de IA sin autorización.

Traducido por IA
“Aviso a nuestros pacientes sobre incidentes de seguridad de datos”
weill.cornell.edu2026-11-14

En Weill Cornell Medicine, nos comprometemos a proteger la confidencialidad y la seguridad de la información de nuestros pacientes. Este aviso se refiere a un incidente de privacidad relacionado con el uso no autorizado de información médica de algunos pacientes en el marco de un estudio de investigación. Los datos fueron limitados y no hay indicios de que se haya hecho un uso indebido de la información de los pacientes. Este aviso explica el incidente y describe las medidas que hemos tomado al respecto.

¿Qué sucedió? El 6 de septiembre de 2026, WCM tuvo conocimiento de un incidente relacionado con información médica protegida utilizada en el marco de un estudio de investigación radiológica e inició una investigación para determinar lo ocurrido. La investigación determinó que, entre el 10 y el 20 de junio de 2026, cierta información de pacientes de Weill Cornell Imaging en NewYork-Presbyterian (WCINYP) o del Hospital NewYork-Presbyterian se introdujo en herramientas de inteligencia artificial (IA) y se procesó mediante aprendizaje automático sin autorización y en violación de las políticas de WCM. Hasta el momento, WCM no ha encontrado evidencia de que una persona no autorizada haya accedido a su información.

¿Qué información se recopiló? La información incluía números de historia clínica, números de acceso radiológico (es decir, números internos asignados a las imágenes radiológicas), fecha(s) y hora(s) de los servicios radiológicos, el nombre del centro, el nombre del profesional sanitario e información clínica relacionada con los exámenes radiológicos del paciente, como diagnósticos, tratamientos, antecedentes quirúrgicos y de procedimientos, e información sobre medicamentos.

¿Qué información NO se recopiló? La información no incluía el nombre, la dirección, el número de teléfono, la dirección de correo electrónico, el número de la Seguridad Social ni información financiera específica del paciente.

¿Qué estamos haciendo? Hemos suspendido la actividad de investigación y solicitado la eliminación de todos los datos involucrados. Asimismo, hemos impartido formación adicional para reforzar el cumplimiento de los requisitos de WCM para el uso adecuado de herramientas de IA y la protección de la información del paciente.

Además de las cartas de notificación a los pacientes afectados, WCM ha habilitado un centro de atención telefónica gratuito para que los pacientes puedan comunicarse con sus preguntas al 1-888-204-2481, de lunes a viernes, de 9:00 a 21:00 (hora del este), excepto los principales días festivos de EE. UU.

Weill Cornell lamenta profundamente cualquier inquietud que este incidente pueda causar. Nos tomamos muy en serio la confidencialidad y la seguridad de la información de nuestros pacientes y seguimos reforzando nuestras exhaustivas medidas de seguridad, incluyendo la capacitación adicional.

Leer Más
Loading...
57 personas acusadas en relación con una estafa romántica de clonación de voz por valor de 900 millones de dólares taiwaneses.

Incidente 1824: Una red taiwanesa de estafas románticas habría utilizado software de IA para modificar la voz y defraudar a más de 20.000 personas.

Traducido por IA
“57 personas acusadas en relación con una estafa romántica de clonación de voz por valor de 900 millones de dólares taiwaneses.”
focustaiwan.tw2026-11-14

Taipéi, 2 de septiembre (CNA) La fiscalía de Taipéi imputó el miércoles a 57 personas en relación con una sofisticada estafa romántica que presuntamente defraudó a más de 20.000 personas por un monto mínimo de 900 millones de dólares taiwaneses (28,32 millones de dólares estadounidenses) mediante tecnología de clonación de voz.

En un comunicado, la Fiscalía del Distrito de Taipéi informó que el grupo, liderado por un hombre de apellido Huang (黃) y su esposa, de apellido Hsu (許), dividía sus operaciones en varios equipos: "captación de clientes potenciales", "nuevos clientes", "relaciones públicas" y "clientes recurrentes".

Según la fiscalía, a partir de 2022, el equipo de captación de clientes potenciales creaba perfiles en aplicaciones de citas utilizando fotos y nombres de mujeres, incluidas miembros del equipo de relaciones públicas del grupo, para atraer a posibles víctimas.

De acuerdo con la fiscalía, quienes mostraban interés en los perfiles eran remitidos al equipo de nuevos clientes, cuyos miembros se hacían pasar por mujeres del equipo de relaciones públicas del grupo en chats en línea con las víctimas.

Los fiscales indicaron que el equipo de captación de nuevos clientes persuadía a las víctimas para que compraran productos con un precio aproximado de 1000 a 2000 dólares taiwaneses, como aceite de pescado, Antrodia cinnamomea y baterías portátiles, con el pretexto de ayudarlas a alcanzar sus objetivos de ventas.

Posteriormente, las víctimas eran remitidas a miembros del equipo de captación, quienes continuaban comunicándose con ellas haciéndose pasar por las mujeres y cultivaban relaciones sentimentales, añadieron los fiscales.

Una vez establecida la relación, se les pedía a las víctimas que compraran o regalaran artículos como teléfonos, purificadores de aire y secadores de pelo, según los fiscales.

Mujeres del equipo de relaciones públicas se reunían con las víctimas en persona para citas, a veces manteniendo relaciones sexuales con ellas, y recolectaban dinero en efectivo, teléfonos, electrodomésticos y otros regalos, que luego devolvían al grupo, según los fiscales.

El equipo de captación recurrente, que continuaba comunicándose con las víctimas haciéndose pasar por las mujeres, solicitaba dinero para gastos de manutención, facturas médicas y deudas de cirugía estética, así como para el pago de cursos de belleza y tatuajes en negocios de socios, según los fiscales.

Según la fiscalía, un ingeniero de apellido Chung (鐘) desarrolló un software de inteligencia artificial para modificar la voz que permitía a los miembros del grupo suplantar la identidad de mujeres del equipo de relaciones públicas durante las llamadas telefónicas con las víctimas.

Los líderes de la red celebraban reuniones de evaluación mensuales, donde los miembros que no cumplían con los objetivos de rendimiento eran sometidos a castigos físicos, como descargas eléctricas con matamoscas, sodomía con objetos extraños y coacción para realizar actos sexuales, según la fiscalía.

Los acusados fueron imputados por delitos tipificados en la Ley de Prevención de Delitos de Fraude, la Ley de Control del Lavado de Dinero y las disposiciones del Código Penal relativas al fraude por internet cometido por tres o más personas.

La fiscalía solicita penas de al menos 25 años para Huang y 18 años para Hsu.

Leer Más
Acerca de la Base de Datos

La base de datos de incidentes de IA está dedicada a indexar el historial colectivo de daños o casi daños realizados en el mundo real por el despliegue de sistemas de inteligencia artificial. Al igual que bases de datos similares en aviación y seguridad informática, la base de datos de incidentes de IA tiene como objetivo aprender de la experiencia para que podamos prevenir o mitigar los malos resultados.

Estás invitado a enviar informes de incidentes, después de lo cual los envíos se indexarán y se harán visibles para el mundo. La inteligencia artificial solo será un beneficio para las personas y la sociedad si registramos colectivamente y aprendemos de sus fallas. (Más información)

post-image
Investigación de incidentes de IA para construir un futuro más seguro: el Instituto de Investigación de Seguridad Digital se asocia con Responsible AI Collaborative

By TheCollab Board of Directors

2024-02-20

El Instituto de Investigación de Seguridad Digital (DSRI) de los Institutos de Investigación de UL se está asociando con Responsible AI Coll...

Leer Más
La Base de Datos en la Prensa

Lea acerca de la base de datos en Time Magazine, Vice News, TechTalks, Wired y Bulletin of the Atomic Scientists entre otros puntos de venta.

Arxiv LogoTechTalks LogoWired LogoVice logoNewsweek logoTime logoBulletin of the Atomic Scientists logoStanford HAI logoRolling Stone logoThe Guardian logoHarvard Business Review logoBrasil em Folhas logo
El Colaborativo de IA Responsable

La base de datos de incidentes de IA es un proyecto de Responsible AI Collaborative, una organización constituida para promover la base de datos de incidentes de IA. La gobernanza de la Colaborativa se estructura en torno a la participación en su programación de impacto. Para obtener más detalles, lo invitamos a leer sobre nuestro consejo y colaboradores.

La AIID depende de muchísimas organizaciones y personas afines a su misión. Celebramos a los colaboradores del conjunto de datos en la tabla de clasificación. También puede ver quién está contribuyendo al código en GitHub.

Vea el Formulario 990 de la Colaborativa de IA Responsable y la solicitud de exención de impuestos. Solicitamos amablemente su apoyo financiero mediante una donación. Todos los fondos donados a la base de datos de incidentes mejoran la cobertura de incidentes, la calidad de la presentación y la profundidad del análisis. Dedicamos muy poco de nuestro tiempo y nada de nuestro presupuesto a la recaudación de fondos.

Patrocinador fundador de la organización
Patrocinador fundador de la base de datos
Patrocinadores y subvenciones
Patrocinadores similares
El Informe de Incidentes de IA
An envelope with a neural net diagram on its left

Create an account to subscribe to new incident notifications and other updates.

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2026 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad