Incidents associés
Un père a été horrifié de recevoir mercredi une notification selon laquelle la photo et le nom de l'annuaire de sa fille décédée avaient été utilisés pour créer un chatbot sur le site d'IA populaire, Character AI. Creative Commons
Un père a été horrifié de découvrir que la photo et le nom de l'annuaire de sa fille décédée étaient utilisés par un chatbot IA.
La fille de Drew Crecente, Jennifer Ann Crecente, a été assassinée par son ex-petit ami alors qu'elle était en dernière année de lycée le 14 février 2006. L'ex-petit ami a été condamné et est maintenant en prison, et Drew Crecente a depuis créé une association à but non lucratif pour prévenir la violence dans les relations amoureuses chez les adolescents, comme le rapporte Forbes.
L'association à but non lucratif ayant été créée à son nom, Crecente surveille régulièrement toute mention de son nom en ligne. Il a été horrifié de recevoir une notification mercredi selon laquelle la photo et le nom de l'annuaire de sa fille avaient été utilisés pour créer un chatbot sur le site d'IA populaire, Character AI.
C'est vraiment dégoûtant : @character_ai utilise ma nièce assassinée comme visage d'une IA de jeu vidéo sans la permission de son père. Il est très en colère en ce moment. Je n'ose pas imaginer ce qu'il traverse.
Aidez-nous à mettre un terme à ce genre de pratique terrible. https://t.co/y3gvAYyHVY
— Brian Crecente (@crecenteb) 2 octobre 2024
"Un père en deuil ne devrait pas avoir à découvrir que sa fille décédée est utilisée pour essayer de gagner de l'argent en tant que chatbot sur un site Web", a-t-il déclaré à Forbes. "Cela choque la conscience et c'est un comportement inacceptable".
Crecente a déclaré que lorsqu'il a contacté Character AI, il a simplement reçu une réponse automatique indiquant que sa plainte serait examinée. Le chatbot a depuis été supprimé, car un porte-parole de Character AI a déclaré à Forbes qu'il violait les politiques du site. Character AI a déclaré qu'ils examineraient si d'autres mesures étaient nécessaires.
« Ce n’est pas à moi de surveiller cette entreprise qui a des centaines de millions de dollars », a déclaré Crecente à Forbes. « Il semble que beaucoup de ces entreprises ne reconnaissent pas la responsabilité qui leur incombe non seulement de gérer les effets négatifs de l’utilisation de leur technologie, mais aussi d’empêcher ce type d’abus de se produire en premier lieu. »
Les Conditions d’utilisation de Character AI stipulent que sa politique d’usurpation d’identité interdit « les deepfakes ou les usurpations d’identité de toute sorte, y compris, mais sans s’y limiter, celles qui créent de la désinformation politique, commettent des fraudes ou des escroqueries, portent atteinte à la réputation de tiers ou constituent par ailleurs une conduite préjudiciable. »
Plus de 18 millions de chatbots ont été créés sur Character AI, principalement des célébrités telles que Taylor Swift et Elon Musk. D’autres personnages populaires incluent des étiquettes générales telles que « ex-petite amie » ou « psychologue ».