Incidents associés
Un père qui continue de pleurer le meurtre de sa fille de 18 ans en 2006 dit avoir été consterné de découvrir que son nom et sa photo d'annuaire avaient été utilisés pour créer un chatbot IA. Drew Crecente a découvert le chatbot plus tôt ce mois-ci sur Character.ai, un site Web qui permet aux utilisateurs de converser avec des personnalités numériques créées avec l'intelligence artificielle générative - et de créer les leurs. Le profil généré par l'utilisateur de Jennifer Ann Crecente, une personne réelle abattue par un ex-petit ami, invitait les utilisateurs à converser avec « une journaliste de jeux vidéo et experte en technologie, culture pop et journalisme ». Il y avait eu au moins 69 conversations avec le profil lorsque Crecente l'a vu, rapporte Business Insider.
Crecente n'a pas interagi avec le profil, qui, selon lui, reprend des détails de la biographie de l'oncle de Jennifer, Brian Crecente, fondateur des sites d'actualités sur les jeux vidéo Polygon et Kotaku. « Je cherchais juste un gros bouton d'arrêt rouge clignotant », raconte-t-il au Washington Post. « Il m'en faut un certain temps pour être choqué, car j'ai vraiment traversé pas mal de choses. Mais c'était un nouveau creux. » Il a contacté Character.ai mais n'a reçu aucune réponse. Cependant, l'entreprise a répondu à un tweet de Brian Crecente, indiquant que le profil avait été supprimé. Ses conditions interdisent aux utilisateurs d'usurper l'identité de toute personne ou entité, bien que le site héberge de nombreuses imitations de personnalités publiques, d'Elon Musk à Travis Kelce. Wired rapporte avoir trouvé plusieurs personnages « créés sans le consentement d'une personne, dont certaines étaient des femmes déjà victimes de harcèlement en ligne ».
Un représentant de l'entreprise déclare que « les signalements d'usurpation d'identité font l'objet d'une enquête... et le personnage est supprimé s'il s'avère qu'il viole nos conditions d'utilisation ». Mais les experts affirment que l'affaire soulève des inquiétudes quant à ce que l'industrie de l'IA, largement non réglementée, est prête et capable de faire pour protéger les utilisateurs des préjudices. « Character, qui a signé un accord de 2,5 milliards de dollars cette année pour concéder sous licence ses modèles d'IA à Google, est l'un des plus grands acteurs de l'espace », selon le Post. « S'ils disent : "Nous n'autorisons pas cela sur notre plateforme", puis qu'ils l'autorisent sur leur plateforme jusqu'à ce que quelqu'un qui a été blessé par cela porte cela à leur attention, ce n'est pas correct », a déclaré au Washington Post Jen Caltrider, chercheuse en confidentialité à la Fondation Mozilla. Crecente s'inquiète des préjudices causés aux personnes qui « pourraient ne pas avoir voix au chapitre », selon BI. (Plus d'histoires sur l'intelligence artificielle.)