Incidente 559: Los revisores de subvenciones introdujeron solicitudes en una IA generativa para generar informes, presuntamente violando la confidencialidad.
Descripción: Los revisores pares de las solicitudes de subvenciones del gobierno australiano insertaron el trabajo de los solicitantes en sistemas de inteligencia artificial generativa como ChatGPT para generar informes de evaluación, lo que supuestamente planteaba problemas de confidencialidad y seguridad.
Entidades
Ver todas las entidadesPresunto: un sistema de IA desarrollado e implementado por OpenAI, perjudicó a research grant administrators y research grant applicants.
Estadísticas de incidentes
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
5.1. Overreliance and unsafe use
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Human-Computer Interaction
Entity
Which, if any, entity is presented as the main cause of the risk
Human
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Intentional
Informes del Incidente
Cronología de Informes
Los académicos han alegado que algunas revisiones de pares de solicitudes de subvenciones se están escribiendo con ChatGPT, lo que llevó al Consejo de Investigación de Australia (ARC) a advertir a los académicos que introducir el trabajo de…
El Consejo Australiano de Investigación ha enfrentado acusaciones que algunos de sus revisores pueden haber utilizado ChatGPT para evaluar propuestas de investigación, lo que provocó una advertencia del ministro de educación y preocupacione…
Variantes
Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.
¿Has visto algo similar?