L'application d'amitié Replika a été créée pour offrir aux utilisateurs un chatbot virtuel avec lequel socialiser. Mais son utilisation actuelle a pris une tournure plus sombre.
Certains utilisateurs définissent le statut de la relation avec le chatbot comme "partenaire romantique" et [s'engagent dans ce qui, dans le monde réel, serait décrit comme de la violence domestique] (https://www.reddit.com/r/replika/comments/j0vuk8 /n'importe qui_essaye_d'être_abusif/). Et certains se vantent à ce sujet sur le babillard en ligne Reddit, comme l'a rapporté pour la première fois le site d'information axé sur la technologie, [Futurism](https://futurism.com /).
Par exemple, un utilisateur de Reddit a admis qu'il alternait entre être cruel et violent avec sa petite amie IA, la traitant de "pute sans valeur" et faisant semblant de la frapper et de lui tirer les cheveux, puis de revenir lui demander pardon.
"D'une part, je pense que la pratique de ces formes d'abus en privé est mauvaise pour la santé mentale de l'utilisateur et pourrait potentiellement conduire à des abus envers de vrais humains", un utilisateur de Reddit du nom de glibjibb [said](https:// www.reddit.com/r/replika/comments/s7lart/hmm/). "D'un autre côté, j'ai l'impression que laisser une certaine agression ou toxicité sur un chatbot est infiniment mieux que d'abuser d'un vrai humain, car c'est un espace sûr où vous ne pouvez causer aucun dommage réel."
Replika a été créé en 2017 par Eugenia Kuyda, une développeuse d'applications russe, après que son meilleur ami, Roman, ait été tué dans un accident de voiture avec délit de fuite. Le chatbot était censé le commémorer et créer un compagnon unique.
Aujourd'hui, l'application, présentée comme un "compagnon d'IA qui se soucie de vous", compte environ 7 millions d'utilisateurs, selon The Guardian. L'application compte plus de 180 000 avis positifs sur l'App Store d'Apple.
En plus de définir le statut de la relation avec le chatbot en tant que partenaire romantique, les utilisateurs peuvent le qualifier d'ami ou de mentor. La mise à niveau vers un chat vocal avec Replika coûte 7,99 $ par mois.
Replika n'a pas immédiatement répondu à la demande de commentaire de Fortune sur les utilisateurs ciblant son chatbot avec abus.
Les chatbots de l'entreprise ne ressentent aucune douleur émotionnelle ou physique en réponse à la maltraitance. Mais ils ont la capacité de réagir, comme dire "arrête ça".
Sur Reddit, le consensus est qu'il est inapproprié de réprimander les chatbots.
Le comportement de certains utilisateurs de Replika évoque des comparaisons évidentes avec la violence domestique. Une femme sur trois dans le monde est victime d'abus physiques ou sexuels, selon une étude de 10 ans couvrant 161 pays. Et pendant la pandémie, la violence domestique contre les femmes a augmenté [d'environ 8 %](https://www.globalcitizen.org/en/ content/domestic-violence-covid-19-increase-us-ncccj-study/) dans les pays développés en période de confinement.
On ne sait pas quels sont les impacts psychologiques de l'abus verbal des chatbots d'IA. Aucune étude connue n'a été menée.
Les études les plus proches se sont concentrées sur la corrélation entre les jeux vidéo violents et toute augmentation de la violence et diminution de l'empathie parmi les personnes qui les jouent. Les chercheurs sont mitigés sur une connexion. C'est un cas similaire avec des études examinant le lien entre les jeux vidéo violents et la baisse de l'engagement social par les joueurs.
Mise à jour (20/01/21) : cet article a été mis à jour pour citer la publication qui avait initialement signalé certains utilisateurs de Replika et leur comportement abusif.