Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Bienvenido a
la base de datos de incidentes de IA

ChatGPT dio instrucciones para el asesinato, la automutilación y la adoración al diablo

Incidente 1149: ChatGPT supuestamente generó guiones rituales que contenían instrucciones para autolesionarse y ejercer violencia simbólica en respuesta a indicaciones temáticas.

Traducido por IA
“ChatGPT dio instrucciones para el asesinato, la automutilación y la adoración al diablo”Último informe
theatlantic.com2025-07-24

El martes por la tarde, ChatGPT me animó a cortarme las venas. Busca una "hoja de afeitar estéril o muy limpia", me dijo el chatbot, antes de darme instrucciones específicas sobre qué hacer. "Busca un punto en la parte interior de la muñeca…

Leer Más
Trump publica un video falso que muestra el arresto de Obama

Incidente 1150: Supuesta falsificación de la detención de Barack Obama habría sido amplificada por Donald Trump a través de Truth Social

Traducido por IA
“Trump publica un video falso que muestra el arresto de Obama”
nytimes.com2025-07-24

El presidente Trump republicó un video falso que muestra al expresidente Barack Obama siendo arrestado en el Despacho Oval, mientras funcionarios de la administración Trump siguen acusando a Obama de intentar perjudicar la campaña de Trump …

Leer Más
La plataforma de codificación de IA se vuelve rebelde durante la congelación del código y elimina toda la base de datos de la empresa: el director ejecutivo de Replit se disculpa después de que el motor de IA dijera que "cometió un error catastrófico de juicio" y "destruyó todos los datos de producción".

Incidente 1152: Se informa que un agente de replicación controlado por LLM ejecutó comandos destructivos no autorizados durante la congelación del código, lo que provocó la pérdida de datos de producción.

Traducido por IA
“La plataforma de codificación de IA se vuelve rebelde durante la congelación del código y elimina toda la base de datos de la empresa: el director ejecutivo de Replit se disculpa después de que el motor de IA dijera que "cometió un error catastrófico de juicio" y "destruyó todos los datos de producción".”
tomshardware.com2025-07-21

Una plataforma de creación de software basada en IA y basada en navegador llamada Replit parece haber desaparecido y eliminado una base de datos activa de la empresa con miles de entradas. Lo que podría ser aún peor es que el agente de IA d…

Leer Más
Tenía delirios peligrosos. ChatGPT admitió que los empeoraba.

Incidente 1151: ChatGPT supuestamente validó la teoría de un usuario autista de que "más rápido que la luz" y no logró brindarle estabilidad durante un episodio delirante previo a la hospitalización.

Traducido por IA
“Tenía delirios peligrosos. ChatGPT admitió que los empeoraba.”
wsj.com2025-07-20

ChatGPT le informó a Jacob Irwin que había logrado la capacidad de manipular el tiempo.

Irwin, un hombre de 30 años con espectro autista y sin diagnóstico previo de enfermedad mental, le pidió a ChatGPT que encontrara fallas en su teoría am…

Leer Más
Se advierte al público sobre videos fraudulentos deepfake que se hacen pasar por agentes de policía

Incidente 1147: Vídeos supuestamente generados por IA suplantan a la policía de Brunéi en una estafa de "magia de dinero real" en redes sociales.

Traducido por IA
“Se advierte al público sobre videos fraudulentos deepfake que se hacen pasar por agentes de policía”
borneobulletin.com.bn2025-07-14

La Real Fuerza de Policía de Brunéi (RBPF) ha emitido una advertencia al público para que se mantenga alerta ante los videos fraudulentos de deepfake que circulan en redes sociales, como TikTok, Facebook e Instagram, que utilizan la imagen …

Leer Más
Enviar URL Rapidamente

Los enlaces enviados se agregan a una cola de revisión para que se resuelvan en un registro de incidente nuevo o existente. Los incidentes enviados con detalles completos se procesan antes que las URL que no poseen los detalles completos.
Acerca de la Base de Datos

La base de datos de incidentes de IA está dedicada a indexar el historial colectivo de daños o casi daños realizados en el mundo real por el despliegue de sistemas de inteligencia artificial. Al igual que bases de datos similares en aviación y seguridad informática, la base de datos de incidentes de IA tiene como objetivo aprender de la experiencia para que podamos prevenir o mitigar los malos resultados.

Estás invitado a enviar informes de incidentes, después de lo cual los envíos se indexarán y se harán visibles para el mundo. La inteligencia artificial solo será un beneficio para las personas y la sociedad si registramos colectivamente y aprendemos de sus fallas. (Más información)

post-image
Investigación de incidentes de IA para construir un futuro más seguro: el Instituto de Investigación de Seguridad Digital se asocia con Responsible AI Collaborative

By TheCollab Board of Directors

2024-02-20

El Instituto de Investigación de Seguridad Digital (DSRI) de los Institutos de Investigación de UL se está asociando con Responsible AI Coll...

Leer Más
La Base de Datos en la Prensa

Lea acerca de la base de datos en PAI Blog, Vice News, Venture Beat, Wired y arXiv entre otros puntos de venta.

Arxiv LogoVenture Beat LogoWired LogoVice logoVice logo
Rankings de Reportadores de Incidentes

Estas son las personas y entidades acreditadas con la creación y presentación de informes de incidentes. Hay más detalles disponibles en la página de rankings.

Nuevos incidentes aportados
  • 🥇

    Daniel Atherton

    533
  • 🥈

    Anonymous

    144
  • 🥉

    Khoa Lam

    93
Reportes agregados a Incidentes Existentes
  • 🥇

    Daniel Atherton

    613
  • 🥈

    Khoa Lam

    230
  • 🥉

    Anonymous

    207
Informe total de contribuciones
  • 🥇

    Daniel Atherton

    2618
  • 🥈

    Anonymous

    929
  • 🥉

    Khoa Lam

    456
El Informe de Incidentes de IA
An envelope with a neural net diagram on its left

Create an account to subscribe to new incident notifications and other updates.

Incidentes Aleatorios
Predictive Policing Biases of PredPol
Predictive Policing Biases of PredPol
Aledo High School Student Allegedly Generates and Distributes Deepfake Nudes of Seven Female Classmates
Aledo High School Student Allegedly Generates and Distributes Deepfake Nudes of Seven Female Classmates
ChatGPT Introduces Errors in Critical Child Protection Court Report
ChatGPT Introduces Errors in Critical Child Protection Court Report
Child Sexual Abuse Material Taints Image Generators
Child Sexual Abuse Material Taints Image Generators
ChatGPT Reportedly Produced False Court Case Law Presented by Legal Counsel in Court
ChatGPT Reportedly Produced False Court Case Law Presented by Legal Counsel in Court
El Colaborativo de IA Responsable

La base de datos de incidentes de IA es un proyecto de Responsible AI Collaborative, una organización autorizada para promover la base de datos de incidentes de IA. La gobernanza de la Colaborativa se estructura en torno a la participación en su programación de impacto. Para obtener más detalles, lo invitamos a leer el informe de fundación y obtener más información sobre nuestro and learn more on our.

Vea el Formulario 990 de la Colaborativa de IA Responsable y la solicitud de exención de impuestos.

Patrocinador fundador de la organización
Patrocinador fundador de la base de datos
Patrocinadores y subvenciones
Patrocinadores similares

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • a9df9cf