Incidente 1497: Según informes, la inyección de presión oculta en una petición ante el Tribunal Laboral brasileño intentó manipular a Galileo.
Respondido
Descripción: Galileu, una herramienta de inteligencia artificial utilizada por los tribunales laborales de Brasil, detectó instrucciones ocultas en una petición inicial presentada ante el Tercer Tribunal Laboral de Parauapebas. El texto supuestamente indicaba a la IA que impugnara la petición superficialmente y no cuestionara los documentos. Galileu alertó al juez y bloqueó el procesamiento del contenido oculto; posteriormente, el juez revisó el material antes de imponer cualquier consecuencia procesal.
Entidades
Ver todas las entidadesAlleged: Conselho Superior da Justiça do Trabalho y Tribunal Regional do Trabalho da 4ª Região developed an AI system deployed by Conselho Superior da Justiça do Trabalho , Tribunal Regional do Trabalho da 8ª Região , 3ª Vara do Trabalho de Parauapebas , Judicial system of Brazil y Brazilian labor courts, which harmed Judicial system of Brazil , Brazilian labor courts , Epistemic integrity , Judicial integrity y Defendants in Brazilian labor cases.
Sistemas de IA presuntamente implicados: Galileu y AI-assisted legal document analysis systems
Estadísticas de incidentes
ID
1497
Cantidad de informes
1
Fecha del Incidente
2026-05-13
Editores
Daniel Atherton
Informes del Incidente
Cronología de Informes
Loading...
Respuesta post-incidente de Secretaria-Geral de Tecnologia e Inovação, General Secretariat for Technology and Innovation
Galileu, una herramienta de inteligencia artificial desarrollada por el Tribunal Regional del Trabajo de la 4.ª Región (TRT-RS) y nacionalizada por el Consejo Superior de Justicia Laboral (CSJT), identificó un intento de manipulación en la …
Variantes
Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.
¿Has visto algo similar?