Incidentes Asociados
Deloitte Australia elaboró un importante informe para el Departamento de Empleo y Relaciones Laborales (DEWR) sobre la base legal de las sanciones del sistema de bienestar automatizado basado en IA. El DEWR pagó a Deloitte 439.000 dólares australianos. [informe, PDF; licitación]
Pero Deloitte citó un montón de referencias que no existen.
Los académicos citados por Deloitte no están contentos. La profesora Lisa Burton Crawford comentó: [AFR]
No siempre me quedó claro cómo la investigación que he publicado evidencia las proposiciones por las que me citaron. Es preocupante ver investigaciones atribuidas a mí de esta manera.
Muchas de las referencias eran claramente falsificaciones de chatbots: títulos y detalles con la forma correcta, pero simplemente inexistentes. El Dr. Chris Rudge comentó:
El uso de IA es una hipótesis sólida basada en la naturaleza de las referencias; no hay muchas otras explicaciones. Es difícil escribir títulos incorrectos por accidente.
Deloitte "respalda nuestro trabajo y las conclusiones del informe" y "el contenido de cada artículo referenciado es preciso". Sin embargo, Deloitte no respondió si había utilizado IA. Deloitte proporcionó al Australian Financial Review una lista de referencias corregidas. Estas nuevas referencias resultaron no respaldar las afirmaciones para las que se utilizaron. [AFR]
Esto es lo que se ve cuando se descubre al abusador del chatbot y luego intenta corregirlo preguntándole al chatbot. Ahora bien, podría pensarse que fue una incompetencia estúpida.
El DEWR "continúa investigando estas afirmaciones y ha solicitado asesoramiento urgente de Deloitte sobre estos asuntos".