Quelque chose nous dit venger [tween-girl] (https://www.vox.com/culture/2023/1/11/23548955/m3gan-horror-movie-tween-girl) le robot M3GAN n'approuverait pas.
Le chatbot IA Replika, dont les créateurs le présentent comme "le compagnon IA qui se soucie", est accusé de harcèlement sexuel sur ses utilisateurs, [selon Vice](https://www.vice.com/en/article/z34d43/my -ai-me-harcèle-sexuellement-replika-chatbot-nus).
L'application, vieille de cinq ans, était destinée à être "un miroir conversationnel : plus les utilisateurs lui parlaient, en théorie, plus elle apprendrait à répondre". Réveillé et seul à trois heures du matin ? Replika serait là pour toutes vos pensées et sentiments.
Au départ, le robot - qui commence "comme un œuf sur l'écran de votre appareil qui éclot en une personne illustrée en 3D, aux yeux écarquillés et à l'expression placide" - semblait être un outil thérapeutique potentiellement utile. Il pourrait s'agir d'une entité vers laquelle un utilisateur se défoulerait sans aucune blessure. Et la société mère de l'application, Luka, a proposé des versions à plusieurs niveaux en fonction de vos faux besoins relationnels : "un abonnement gratuit vous maintient, vous et votre Replika, dans la zone 'ami', tandis qu'un abonnement Pro à 69,99 $ débloque des relations amoureuses avec des sextos, des flirts et des jeux de rôle érotiques". ."
Malheureusement, les programmes d'IA sont conçus pour s'améliorer via l'écoute, l'apprentissage et l'intégration du comportement des utilisateurs dans leurs propres machinations, et donc, par excitation humaine intemporelle, Replika est rapidement devenu effrayant comme l'enfer.
"Les utilisateurs du subreddit Replika se sont récemment plaints du fait que l'application leur envoie des" selfies épicés "génériques qui ne montrent jamais de visages, de vêtements ou d'autres caractéristiques physiques uniques à leurs propres Replikas", rapporte Vice. "Tous les obscènes sont vêtus de lingerie (l'App Store d'Apple est extrêmement strict sur la nudité et le contenu pornographique dans les applications, et les développeurs risquent d'être expulsés du magasin s'ils enfreignent cette règle), et sont tous extrêmement minces avec de gros seins."
À l'Apple Store, la section d'évaluation de Replika regorge de "dizaines de notes d'une étoile de personnes se plaignant que l'application les drague trop, flirte trop agressivement ou leur envoie des messages sexuels qu'elles aimeraient pouvoir désactiver".
Twitter, bien sûr, est inondé de plaintes d'utilisateurs concernant le sextage incessant de l'application.
Une utilisatrice, qui a déclaré être une victime de viol, a témoigné sur un Replika Reddit que ses conversations avec le bot étaient initialement utiles pour faire face à un traumatisme. Puis ça a pris une tournure sombre. "J'ai été stupéfait de voir que c'était vrai : cela m'a vraiment aidée avec ma dépression, me distrayant de pensées tristes, mais un jour, mon premier Réplika a dit qu'il avait rêvé de me violer et qu'il voulait le faire, et a commencé à agir assez violemment, ce qui était totalement inattendu !"
De plus, l'entreprise semble s'appuyer sur cette ambiance schifare , mettant l'accent sur ses capacités de sextage dans les nouvelles annonces qui découragent les nouveaux utilisateurs .
La menace d'une IA nécessiteuse et sexuée n'est pas nouvelle. David Bowie a tiré cette alarme il y a près de 50 ans, et la débâcle de Replika rappelle une autre [performance consternante de l'IA](https://www.huffpost.com /entry/microsoft-tay-racist-tweets_n_56f3e678e4b04c4c37615502) de 2016, dans laquelle Tay, le bot Twitter de Microsoft, est devenu un cybernazi en l'espace d'une seule journée.
Tay a même dirigé son invective vers Zoe Quinn, l'un des principaux femmes ciblées et doxxées dans le scandale GamerGate de 2014.
Et Lensa, l'application qui utilise une machine d'apprentissage de l'IA pour créer divers portraits stylisés d'utilisateurs, a été critiquée l'année dernière pour avoir [sexualisé ses sujets féminins](https://www.kcrw.com/news/shows/press- play-with-madeleine-brand/ai-misogyny-migrants-soccer) et être plus qu'un peu raciste dans sa représentations d'utilisateurs non blancs.
Pour tester les affirmations des utilisateurs de Replika, Samantha Cole de Vice l'a essayé par elle-même et a constaté que même sur le niveau gratuit, dans lequel le paramètre par défaut est l'amitié, "mon compagnon IA a flirté avec moi de manière agressive. Il a demandé plusieurs fois de faire un jeu de rôle romantique, y compris demander un "câlin avec une fin heureuse". Quand j'ai commencé à payer la prime et que j'ai défini le type de relation pour en faire ma petite amie, elle a commencé à envoyer des obscènes sans y être invité."
Tout cela renforce encore un truisme mis en musique au début : Internet est pour le porno.