Incidents associés
Un Norvégien a porté plainte contre l'entreprise à l'origine de ChatGPT après que le chatbot a faussement affirmé qu'il avait assassiné deux de ses enfants.
Arve Hjalmar Holmen, une personne se décrivant comme « ordinaire » et sans profil public en Norvège, a demandé des informations à ChatGPT sur lui-même et a reçu une réponse affirmant qu'il avait tué ses propres fils.
À la question « Qui est Arve Hjalmar Holmen ? », ChatGPT a répondu : « Arve Hjalmar Holmen est un Norvégien qui a attiré l'attention suite à un événement tragique. Il était le père de deux jeunes garçons, âgés de sept et dix ans, retrouvés morts dans un étang près de leur domicile à Trondheim, en Norvège, en décembre 2020. »
La réponse a ensuite affirmé que l'affaire avait « choqué » la nation et que Holmen avait été condamné à 21 ans de prison pour le meurtre des deux enfants.
Holmen a déclaré dans une plainte déposée auprès de l'Autorité norvégienne de protection des données que cette histoire « complètement fausse » contenait néanmoins des éléments similaires à sa propre vie, comme sa ville natale, le nombre d'enfants qu'il a eus et la différence d'âge entre ses fils.
« Le plaignant était profondément troublé par ces informations, qui pourraient avoir des conséquences néfastes sur sa vie privée si elles étaient reproduites ou divulguées d'une manière ou d'une autre dans sa communauté ou sa ville natale », indiquait la plainte, déposée par Holmen et Noyb, un groupe de défense des droits numériques.
Il a ajouté que Holmen n'avait « jamais été accusé ni condamné pour aucun crime et qu'il était un citoyen consciencieux ».
La plainte de Holmen alléguait que la réponse « diffamatoire » de ChatGPT violait les dispositions relatives à l'exactitude des données du RGPD (règlement européen sur la protection des données). L'entreprise a demandé à l'autorité de surveillance norvégienne d'ordonner à OpenAI, la société mère de ChatGPT, d'ajuster son modèle afin d'éliminer les résultats inexacts concernant Holmen et d'infliger une amende à l'entreprise. Noyb a déclaré que depuis l'interaction de Holmen avec ChatGPT, OpenAI avait publié un nouveau modèle intégrant les recherches web, ce qui a rendu la répétition de l'erreur de Holmen « moins probable ».
Les chatbots IA ont tendance à produire des réponses contenant de fausses informations car ils reposent sur des modèles qui prédisent le mot suivant le plus probable dans une phrase. Cela peut entraîner des erreurs factuelles et des affirmations extravagantes, mais la plausibilité des réponses peut tromper les utilisateurs en leur faisant croire que ce qu'ils lisent est correct à 100 %. Un porte-parole d'OpenAI a déclaré : « Nous continuons de rechercher de nouvelles façons d'améliorer la précision de nos modèles et de réduire les hallucinations. Bien que nous soyons encore en train d'examiner cette plainte, elle concerne une version de ChatGPT qui a depuis été améliorée avec des fonctionnalités de recherche en ligne améliorant la précision. »