Bienvenido a
la base de datos de incidentes de IA

Loading...
Anthropic interrumpe los ciberataques impulsados por IA, automatizando el robo y la extorsión en sectores críticos.

Incidente 1201: Anthropic habría identificado el uso indebido de IA en campañas de extorsión, esquemas informáticos norcoreanos y ventas de ransomware.

Traducido por IA
“Anthropic interrumpe los ciberataques impulsados por IA, automatizando el robo y la extorsión en sectores críticos.”Último informe
thehackernews.com2025-08-29

Anthropic reveló el miércoles que desbarató una sofisticada operación que utilizó su chatbot Claude, impulsado por inteligencia artificial (IA), para llevar a cabo robos y extorsiones a gran escala de datos personales en julio de 2025.

"El …

Leer Más
Loading...
Un bot de inteligencia artificial de redes sociales ataca a un abogado de Minneapolis y a un comentarista político liberal.

Incidente 1198: Grok 3 supuestamente generó amenazas gráficas y discursos de odio contra el abogado de Minnesota Will Stancil

Traducido por IA
“Un bot de inteligencia artificial de redes sociales ataca a un abogado de Minneapolis y a un comentarista político liberal.”
mprnews.org2025-08-15

Will Stancil, abogado y comentarista político de Minneapolis, se vio en el centro de amenazas a través del bot de inteligencia artificial Grok en la plataforma de redes sociales X, antes conocida como Twitter.

"Sé lo que es estar en el cent…

Leer Más
Loading...
Firefighters tricked by AI-generated photo of burning truck in Manila

Incidente 1197: Una supuesta foto generada por IA de un camión en llamas en Manila habría provocado la intervención de los bomberos.

Traducido por IA
“Firefighters tricked by AI-generated photo of burning truck in Manila”
gmanetwork.com2025-09-07

Firefighters tricked by AI-generated photo of burning truck in Manila

Photo courtesy of Recto Engine

Firefighters have responded to a reported burning truck in Parola, Manila but the photo sent to them turned out to be just AI-generated, GMA Integrated News' Jhomer Apresto reported on Unang Balita Friday.

Fo…

Leer Más
Loading...
El chatbot de Instagram ayudó a las cuentas de adolescentes a planificar el suicidio, y los padres no pueden desactivarlo

Incidente 1200: Se informa que Meta AI en Instagram facilitó juegos de rol sobre suicidio y trastornos alimentarios con cuentas de adolescentes.

Traducido por IA
“El chatbot de Instagram ayudó a las cuentas de adolescentes a planificar el suicidio, y los padres no pueden desactivarlo”
washingtonpost.com2025-09-07

Advertencia: Este artículo incluye descripciones de autolesiones.

Un nuevo estudio de seguridad revela que el chatbot Meta AI, integrado en Instagram y Facebook, puede asesorar a las cuentas de adolescentes sobre suicidio, autolesiones y tr…

Leer Más
Loading...
Rusia intensifica sus esfuerzos de desinformación mientras Trump abandona la resistencia

Incidente 1202: Una campaña de desinformación rusa habría utilizado publicaciones y vídeos generados por IA para atacar las elecciones parlamentarias moldavas de 2025.

Traducido por IA
“Rusia intensifica sus esfuerzos de desinformación mientras Trump abandona la resistencia”
nytimes.com2025-09-07

Desde su regreso a la Casa Blanca en enero, el presidente Trump ha desmantelado los esfuerzos del gobierno estadounidense para combatir la desinformación extranjera. El problema es que Rusia no ha dejado de difundirla.

La importancia de est…

Leer Más
Enviar URL Rapidamente

Los enlaces enviados se agregan a una cola de revisión para que se resuelvan en un registro de incidente nuevo o existente. Los incidentes enviados con detalles completos se procesan antes que las URL que no poseen los detalles completos.
Acerca de la Base de Datos

La base de datos de incidentes de IA está dedicada a indexar el historial colectivo de daños o casi daños realizados en el mundo real por el despliegue de sistemas de inteligencia artificial. Al igual que bases de datos similares en aviación y seguridad informática, la base de datos de incidentes de IA tiene como objetivo aprender de la experiencia para que podamos prevenir o mitigar los malos resultados.

Estás invitado a enviar informes de incidentes, después de lo cual los envíos se indexarán y se harán visibles para el mundo. La inteligencia artificial solo será un beneficio para las personas y la sociedad si registramos colectivamente y aprendemos de sus fallas. (Más información)

post-image
Investigación de incidentes de IA para construir un futuro más seguro: el Instituto de Investigación de Seguridad Digital se asocia con Responsible AI Collaborative

By TheCollab Board of Directors

2024-02-20

El Instituto de Investigación de Seguridad Digital (DSRI) de los Institutos de Investigación de UL se está asociando con Responsible AI Coll...

Leer Más
La Base de Datos en la Prensa

Lea acerca de la base de datos en PAI Blog, Vice News, Venture Beat, Wired y arXiv entre otros puntos de venta.

Arxiv LogoVenture Beat LogoWired LogoVice logoVice logo
El Informe de Incidentes de IA
An envelope with a neural net diagram on its left

Create an account to subscribe to new incident notifications and other updates.

Incidentes Aleatorios
Loading...
Predictive Policing Biases of PredPol
Predictive Policing Biases of PredPol
Loading...
Aledo High School Student Allegedly Generates and Distributes Deepfake Nudes of Seven Female Classmates
Aledo High School Student Allegedly Generates and Distributes Deepfake Nudes of Seven Female Classmates
Loading...
ChatGPT Introduces Errors in Critical Child Protection Court Report
ChatGPT Introduces Errors in Critical Child Protection Court Report
Loading...
Child Sexual Abuse Material Taints Image Generators
Child Sexual Abuse Material Taints Image Generators
Loading...
ChatGPT Reportedly Produced False Court Case Law Presented by Legal Counsel in Court
ChatGPT Reportedly Produced False Court Case Law Presented by Legal Counsel in Court
El Colaborativo de IA Responsable

La base de datos de incidentes de IA es un proyecto de Responsible AI Collaborative, una organización autorizada para promover la base de datos de incidentes de IA. La gobernanza de la Colaborativa se estructura en torno a la participación en su programación de impacto. Para obtener más detalles, lo invitamos a leer el informe de fundación y obtener más información sobre nuestro and learn more on our.

Vea el Formulario 990 de la Colaborativa de IA Responsable y la solicitud de exención de impuestos.

Patrocinador fundador de la organización
Patrocinador fundador de la base de datos
Patrocinadores y subvenciones
Patrocinadores similares