Incidentes Asociados
La investigación concluye que el Departamento de Familias, Equidad y Vivienda no tomó las medidas razonables para garantizar la exactitud de la información personal ni para protegerla de la divulgación no autorizada.
La OVIC ha publicado un informe de investigación (https://ovic.vic.gov.au/regulatory-action/investigation-into-the-use-of-chatgpt-by-a-child-protection-worker/) sobre el uso de ChatGPT por parte de un trabajador de protección infantil del Departamento de Familias, Equidad y Vivienda (DFFH). En este caso, el trabajador utilizó ChatGPT, una herramienta de inteligencia artificial generativa (GenAI), al redactar un Informe de Solicitud de Protección (Informe PA), un informe que se presenta al Tribunal de Menores para fundamentar las decisiones sobre si un menor necesita protección.
La investigación concluyó que:
- El contenido generado por ChatGPT y posteriormente utilizado por el trabajador de protección infantil al redactar el informe PA contenía información personal inexacta, lo que minimizaba los riesgos para el menor en el caso. El trabajador de Protección Infantil introdujo una cantidad significativa de información personal y delicada en ChatGPT, incluyendo nombres e información sobre evaluaciones de riesgos relacionadas con el menor. Al hacerlo, reveló esta información a OpenAI, una empresa extranjera, y la filtró fuera del control del DFFH.
La Comisionada Adjunta determinó que los controles implementados por el DFFH eran insuficientes para gestionar los riesgos asociados al uso de las herramientas GenAI en el contexto de la protección infantil. Concluyó que el DFFH infringió los artículos 3.1 y 4.1 de las PPI al no tomar medidas razonables para garantizar la exactitud de la información personal y protegerla de la divulgación no autorizada.
El DFFH aceptó las conclusiones del informe de investigación y ahora debe implementar las medidas correctivas que contiene.
La Comisionada Adjunta ha emitido un aviso de cumplimiento sobre el DFFH para garantizar que cumpla con los artículos 3.1 y 4.1 de las PPI. El aviso describe seis acciones específicas, incluyendo la exigencia de que el DFFH bloquee el uso de ChatGPT y otras herramientas similares por parte de los trabajadores de protección infantil.
El informe completo de la investigación está disponible aquí.
Cita atribuible al Comisionado de Información de Victoria, Sean Morrison:
Este caso demuestra que, si bien algunos usos de GenAI pueden ser beneficiosos, actualmente existen circunstancias en las que los riesgos para la privacidad son simplemente excesivos, como cuando se trata de información muy sensible.
Por lo tanto, animo a todas las organizaciones a evaluar los riesgos que implica el uso de GenAI por parte de sus empleados en sus diferentes funciones y actividades. De acuerdo con sus obligaciones en virtud de los PPI, las organizaciones deben implementar controles adecuados para mitigar estos riesgos.