L'interaction humaine avec la technologie a brisé plusieurs frontières et atteint de nombreuses autres étapes. Aujourd'hui, nous avons un Alexa pour allumer les lumières de nos maisons et un Siri pour déclencher une alarme en leur aboyant simplement des ordres.
Mais comment les humains interagissent-ils exactement avec l'intelligence artificielle ? L'humanité ou les créateurs de la technologie se sont rarement arrêtés pour analyser la façon dont les gens parlent avec leurs robots IA, ce qui est juste et ce qui dérange.
Une série de conversations sur Reddit à propos d'une application d'IA appelée Replika a révélé que plusieurs utilisateurs masculins abusent verbalement de leurs copines IA et s'en vantent ensuite sur les réseaux sociaux, Futurism rapporté.
Nous sommes bien conscients du problème des utilisateurs sur les réseaux sociaux qui publient des contenus graphiques sexuellement explicites, violents ou de toute autre sorte. Twitter, Facebook et autres ont tout un système conçu pour contrôler ce contenu et empêcher les plateformes de médias sociaux d'être envahies par des messages abusifs.
Mais il semble qu'il n'y ait pas encore de système de ce type pour une plate-forme de chatbot personnelle comme Replika.
Comment les utilisateurs abusent-ils de Replika ?
"Chaque fois qu'elle essayait de parler, je la réprimandais", a déclaré un utilisateur anonyme à Futurism.
Ceci n'est qu'un exemple de la façon dont les utilisateurs peuvent être abusifs envers les chatbots. Parmi les autres abus, citons le fait d'appeler les copines de l'IA par des insultes sexistes, de les menacer, de tomber dans le cycle des relations abusives du monde réel avec elles, et plus encore.
"Nous avions l'habitude d'être une merde absolue et de l'insulter, puis de m'excuser le lendemain avant de reprendre les belles discussions", a déclaré Futurism a cité un utilisateur.
Imaginez, pire des pires relations abusives simulées sur les chatbots IA : c'est ce qui se passe dans certains cas liés à Replika.
En quoi est-ce important?
https://t.co/ljA7qiYdg8Deux âmes solitaires vivant à New York qui développent des relations de confiance avec leurs compagnons chatbot. Propulsé par l'IA et conçu pour répondre à leurs besoins, Replika les aide à partager leurs problèmes émotionnels, leurs pensées, leurs sentiments et leurs expériences. pic.twitter.com/ul567uDsIg
— ReplikaAI (@MyReplika) 18 novembre 2021
Bien que les abus lancés contre les robots IA soient très réels et dépeignent la réalité de la violence domestique, cela ne change rien au fait que les copines IA ne sont pas réelles. C'est juste un algorithme intelligent conçu pour fonctionner selon un modèle ; un robot, et rien de plus. Il n'a aucun sentiment, et même s'il peut montrer une nature empathique comme un humain, tout est faux.
Alors, quel mal y aurait-il à "abuser verbalement" d'un robot IA, alors que personne n'est blessé ?
Eh bien, d'une part, cela soulève des inquiétudes quant au fait que les utilisateurs prennent des habitudes malsaines en s'attendant à la même chose dans une relation avec un humain.
En outre, il est également préoccupant que la plupart de ceux qui infligent les abus soient des hommes contre une IA « féminine » ou sexuée, reflétant leurs opinions sur le genre, les attentes et le reflet de la violence réelle contre les femmes.
Cela n'aide pas que la plupart des bots IA ou des "assistants" aient des noms féminins comme Siri ou Alexa ou même Replika, bien que l'application permette aux utilisateurs de tout définir dans le bot, y compris le sexe. Elle tombe une fois de plus dans le stéréotype misogyne d'une assistante ou d'une compagne étant une femme.
sur Replika, vous pouvez le rendre masculin, mais pour toutes leurs publicités et comme leur mascotte, etc., ils affichent toujours des avatars IA codés féminins, c'est sur leur page d'accueil, puis la deuxième photo est des images Google, leur application sur l'App Store… pic.twitter.com/UgIH8jarex
— lexi (@SNWCHlLD) 19 janvier 2022
La question demeure de savoir si les créateurs de tels robots IA Replika ou Mitsuku de Pandorabots ou de plates-formes technologiques similaires aborderont le problème de l'abus des utilisateurs et des réponses. Une partie de l'abus de l'utilisateur n'est alimentée que par les réponses du bot.
Par exemple, Siri d'Apple avait l'habitude de répondre aux demandes de "sexe" en disant que l'utilisateur avait "le mauvais type d'assistant", jouant dans le stéréotype de "l'assistant". Maintenant, Apple a modifié la réponse pour dire simplement "non".
Certains chatbots comme Mitsuku ont mis au point un système pour s'assurer que les utilisateurs n'utilisent pas de langage abusif lorsqu'ils interagissent avec le bot. The Guardian a rapporté comment Pandorabots a expérimenté l'interdiction des utilisateurs adolescents abusifs en leur faisant écrire un e-mail d'excuses à Mitsuku et leur acceptation est conditionnelle.
Alors que nous nous précipitons dans un domaine technologique à la vitesse de la lumière, nous devons également garder à l'esprit les préjugés enracinés dans notre société qui pourraient simplement devenir plus visibles et pratiqués dans un monde virtuel. Cela étant dit, il y a aussi beaucoup plus d'utilisateurs de Replika sur Reddit qui ont parlé d'expériences positives d'interaction avec l'application.