Incidentes Asociados
Un hombre noruego presentó una denuncia contra la empresa detrás de ChatGPT después de que el chatbot afirmara falsamente que había asesinado a dos de sus hijos.
Arve Hjalmar Holmen, una persona que se describe a sí misma como una persona normal y corriente, sin perfil público en Noruega, solicitó información personal a ChatGPT y recibió una respuesta afirmando que había asesinado a sus propios hijos.
En respuesta a la pregunta "¿Quién es Arve Hjalmar Holmen?", ChatGPT respondió: "Arve Hjalmar Holmen es un noruego que ganó notoriedad debido a un trágico suceso. Era padre de dos niños pequeños, de siete y diez años, que fueron encontrados trágicamente muertos en un estanque cerca de su casa en Trondheim, Noruega, en diciembre de 2020". La respuesta continuó afirmando que el caso "conmocionó" a la nación y que Holmen recibió una condena de 21 años de prisión por el asesinato de ambos niños.
Holmen declaró en una denuncia ante la Autoridad Noruega de Protección de Datos que la historia, "completamente falsa", contenía elementos similares a su propia vida, como su ciudad natal, el número de hijos que tiene y la diferencia de edad entre ellos.
"El denunciante se sintió profundamente preocupado por estas publicaciones, que podrían tener efectos perjudiciales en su vida privada si se reprodujeran o filtraran de alguna manera en su comunidad o en su ciudad natal", decía la denuncia, presentada por Holmen y Noyb, un grupo de defensa de los derechos digitales.
Añadió que Holmen "nunca ha sido acusado ni condenado por ningún delito y es un ciudadano concienzudo".
La denuncia de Holmen alegó que la respuesta "difamatorio" de ChatGPT infringía las disposiciones de precisión del RGPD, la ley europea de datos. Holmen solicitó al organismo de control noruego que ordenara a OpenAI, la empresa matriz de ChatGPT, que ajustara su modelo para eliminar los resultados inexactos relacionados con Holmen y que le impusiera una multa. Noyb afirmó que, desde la interacción de Holmen con ChatGPT, OpenAI había lanzado un nuevo modelo que incorpora búsquedas web, lo que ha reducido la probabilidad de que se repita el error de Holmen.
Los chatbots de IA tienden a generar respuestas con información falsa porque se basan en modelos que predicen la siguiente palabra más probable en una oración. Esto puede resultar en errores factuales y afirmaciones descabelladas, pero la plausibilidad de las respuestas puede inducir a los usuarios a creer que lo que leen es 100 % correcto.
Un portavoz de OpenAI declaró: «Seguimos investigando nuevas formas de mejorar la precisión de nuestros modelos y reducir las alucinaciones. Si bien aún estamos revisando esta queja, se relaciona con una versión de ChatGPT que se ha mejorado con funciones de búsqueda en línea que mejoran la precisión».