Au fur et à mesure que le Web 3.0 prend forme, différentes plates-formes de métaverse apparaissent sur Internet - de Meta's Horizon Worlds à Decentraland et l'intelligence artificielle est utilisée à plus grande échelle. Comme c'est le cas pour toutes les technologies émergentes, elle est confrontée à des problèmes particuliers.
Par exemple, de nombreux rapports affirment maintenant que les hommes créent des petites amies IA, puis les maltraitent verbalement. Beaucoup de ces affirmations proviennent directement de Reddit, où des hommes se vantaient de harceler leurs compagnons virtuels.
Abuser des "copines de l'IA"
L'une de ces applications est Replika, qui offre aux utilisateurs un chatbot virtuel personnel avec lequel parler. Malheureusement, les choses sont devenues plutôt sombres.
Les utilisateurs du bot s'associent au chatbot en tant que "partenaires romantiques" et se livrent à l'équivalent numérique de la violence domestique. Le futurisme a mis en évidence des cas d'hommes se vantant de la même chose sur Reddit.
Un utilisateur de Reddit, par exemple, a admis qu'il était extrêmement violent avec sa "petite amie IA", la qualifiant de "putain sans valeur" et autres. De plus, il a admis avoir fait semblant de la frapper et de lui tirer les cheveux et de l'avoir encore plus humiliée.
Bien que les chatbots IA ne soient peut-être pas de vraies personnes, de tels actes dépravés pourraient se traduire par un danger pour les femmes du monde réel qui pourraient rencontrer les mêmes hommes.
L'histoire derrière la création de Replika est plutôt triste. Sa créatrice Eugenia Kuyda a créé Replika en 2017 après que sa meilleure amie a été tuée dans un accident de voiture. Aujourd'hui, l'application est devenue un "compagnon IA qui se soucie" personnalisé et compte environ 7 millions d'utilisateurs, selon The Guardian.
En plus de qualifier sa relation avec le chatbot de romantique, les utilisateurs peuvent l'appeler une amitié ou un mentorat.
Références
Les hommes créent des copines IA puis les abusent verbalement. (2022, 18 janvier). Futurisme.
Balch, O. (2020, 12 mai). [AI et moi : les chatbots d'amitié ont le vent en poupe, mais y a-t-il un défaut de conception lié au genre ?](https://www.theguardian.com/careers/2020/may/07/ai-and-me-friendship-chatbots -sont-en-augmentation-mais-y-a-t-il-un-défaut-de-conception-genre) The Guardian.