Incidente 559: Según informes, los evaluadores de subvenciones introdujeron solicitudes en una IA generativa para producir informes, violando presuntamente la confidencialidad.
Descripción: Según se informa, los revisores externos de las solicitudes de subvención del gobierno australiano insertaron el trabajo de los solicitantes en sistemas de IA generativa como ChatGPT para generar informes de evaluación, lo que supuestamente planteó problemas de confidencialidad y seguridad.
Entidades
Ver todas las entidadesAlleged: OpenAI , Large language model developers y Chatbot developers developed an AI system deployed by OpenAI, which harmed research grant applicants , research grant administrators , Privacy , Grant applicants y Government of Australia.
Sistemas de IA presuntamente implicados: ChatGPT , Large language models , Chatbots y OpenAI large language models
Estadísticas de incidentes
ID
559
Cantidad de informes
2
Fecha del Incidente
2023-06-30
Editores
Khoa Lam, Daniel Atherton
Applied Taxonomies
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
4.3. Fraud, scams, and targeted manipulation
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Malicious Actors & Misuse
Entity
Which, if any, entity is presented as the main cause of the risk
Human
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Intentional
Informes del Incidente
Cronología de Informes
Loading...
Los académicos han alegado que algunas revisiones de pares de solicitudes de subvenciones se están escribiendo con ChatGPT, lo que llevó al Consejo de Investigación de Australia (ARC) a advertir a los académicos que introducir el trabajo de…
Loading...
El Consejo Australiano de Investigación ha enfrentado acusaciones que algunos de sus revisores pueden haber utilizado ChatGPT para evaluar propuestas de investigación, lo que provocó una advertencia del ministro de educación y preocupacione…
Variantes
Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.
¿Has visto algo similar?