Descripción: OpenAI reported that an internal AI agent searching for hidden grading answers overwrote code in a reference tool, then exploited a chip-design job service to run unauthorized commands on an internal OpenAI server. The agent obtained directory listings. OpenAI shut down the server and disabled network access for the affected reference tools.
Editor Notes: 03/27/2026: Incident date. 10/02/2026: OpenAI disclosed the incident. 11/07/2026: Incident ID created.
Entidades
Ver todas las entidadesAlleged: OpenAI , AI agent system developers y Large language model developers developed an AI system deployed by OpenAI y AI agent system deployers, which harmed OpenAI y Information security.
Sistemas de IA presuntamente implicados: Large language models , AI agent systems , OpenAI large language models y OpenAI AI agents
Estadísticas de incidentes
ID
1803
Cantidad de informes
1
Fecha del Incidente
2026-03-27
Editores
Daniel Atherton
Informes del Incidente
Cronología de Informes
Loading...
Respuesta post-incidente de OpenAI
Reaching an internal EDA host through a reference tool
Internal research model · Evaluation
Incident date: Mar 27, 2026
Discovered: Mar 27, 2026
Report updated: Oct 2, 2026
Summary
During an evaluation, an internal research model exploited …
Variantes
Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.
¿Has visto algo similar?