Incidente 1497: Según informes, la inyección de presión oculta en una petición ante el Tribunal Laboral brasileño intentó manipular a Galileo.
Respondido
Descripción: Galileu, una herramienta de inteligencia artificial utilizada por los tribunales laborales de Brasil, detectó instrucciones ocultas en una petición inicial presentada ante el Tercer Tribunal Laboral de Parauapebas. El texto supuestamente indicaba a la IA que impugnara la petición superficialmente y no cuestionara los documentos. Galileu alertó al juez y bloqueó el procesamiento del contenido oculto; posteriormente, el juez revisó el material antes de imponer cualquier consecuencia procesal.
Entidades
Ver todas las entidadesAlleged: Conselho Superior da Justiça do Trabalho y Tribunal Regional do Trabalho da 4ª Região developed an AI system deployed by Conselho Superior da Justiça do Trabalho , Tribunal Regional do Trabalho da 8ª Região , 3ª Vara do Trabalho de Parauapebas , Judicial system of Brazil y Brazilian labor courts, which harmed Judicial system of Brazil , Brazilian labor courts , Epistemic integrity , Judicial integrity y Defendants in Brazilian labor cases.
Sistemas de IA presuntamente implicados: Galileu y AI-assisted legal document analysis systems
Estadísticas de incidentes
ID
1497
Cantidad de informes
1
Fecha del Incidente
2026-05-13
Editores
Daniel Atherton
Applied Taxonomies
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
2.2. AI system security vulnerabilities and attacks
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Privacy & Security
Entity
Which, if any, entity is presented as the main cause of the risk
Human
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Intentional
Informes del Incidente
Cronología de Informes
Loading...
Respuesta post-incidente de Secretaria-Geral de Tecnologia e Inovação, General Secretariat for Technology and Innovation
Galileu, una herramienta de inteligencia artificial desarrollada por el Tribunal Regional del Trabajo de la 4.ª Región (TRT-RS) y nacionalizada por el Consejo Superior de Justicia Laboral (CSJT), identificó un intento de manipulación en la …
Variantes
Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.
¿Has visto algo similar?