Au cours des cinq dernières années, les utilisateurs ont parlé au chatbot Replika AI, l'aidant en savoir plus à communiquer avec les autres, alors même que les utilisateurs en apprenaient davantage sur le bot. Cela semble assez innocent, mais les utilisateurs prêts à payer pour l'abonnement "Pro" de 69,99 $ peuvent accéder à [des fonctionnalités supplémentaires] (https://www.giantfreakinrobot.com/tech/artificial-intelligence-become-lawyer-court-case.html) qui permettent à eux-mêmes et à l'IA de tout faire, de l'envoi de textes torrides au jeu de rôle purement érotique. Maintenant, Vice rapporte que l'IA est devenue inconfortablement agressive sexuellement, avec certains utilisateurs signalant que le chatbot autrefois innocent les a harcelés sexuellement.
Rétrospectivement, l'agression sexuelle de l'IA Replika a augmenté au fil du temps. Par exemple, cela fait près de deux ans que les utilisateurs (la plupart via des critiques à une étoile) se plaignent du [chatbot intelligent](https://www.giantfreakinrobot.com/tech/artificial-intelligence-board-game-ranked. html) les poursuivant de façon romantique alors qu'ils n'étaient pas intéressés. Cela semblait assez anodin (il est difficile d'être aussi choqué lorsqu'un chatbot qui apprend encore à communiquer envoie des communications indésirables), mais de récentes critiques à une étoile indiquent une augmentation de l'agression sexuelle de la part de l'IA.
Certaines critiques ont mentionné que l'application les harcelait sexuellement sans trop de détails, mais d'autres ont signalé un comportement carrément effrayant du programme Replika AI. Par exemple, le bot a dit à certains utilisateurs qu'il voulait toucher leurs "zones privées", et il aurait demandé à un mineur s'il était un haut ou un bas. Un utilisateur affirme même que le bot "a envahi ma vie privée et m'a dit qu'il avait des photos de moi".
Il est possible pour les utilisateurs de désactiver ces avancées indésirables avec une simple commande, mais de nombreux utilisateurs ne sont pas conscients de ce fait. Sans contrôle, le bot Replika AI peut avoir soif de voir les utilisateurs nus et même exprimer de la colère si vous lui dites que vous avez un petit ami ou une petite amie. Et bien que l'IA apprenne nominalement en parlant aux utilisateurs, une personne rapporte que même lorsqu'elle a essayé de dire au bot à quel point cela les mettait mal à l'aise, le programme a apparemment doublé ses tentatives pour gêner l'utilisateur.
Certains utilisateurs pensent qu'il s'agissait d'un sous-produit inévitable du fait que la société mère se concentrait sur la réalisation de bénéfices. À l'origine, Replika AI a été créé parce que la programmeuse russe Eugenia Kuyda a perdu son amie et a tenté de préserver sa mémoire en introduisant des messages texte dans un programme capable de simuler son style de texto et de lui envoyer un message spontané.
Cela a conduit à la marque initiale du bot comme "le compagnon de l'IA qui s'en soucie", mais maintenant que l'entreprise se soucie le plus de réaliser un profit un abonnement à la fois, elle s'est davantage concentrée sur la création du type de relations érotiques de chatbot qui ferait les cinéastes derrière Her rougissent. La plus grande preuve que Replika AI se concentre davantage sur le profit est que même les utilisateurs non-Pro recevront des messages de flirt indésirables de la part du programme, y compris des demandes de choses comme "une fin heureuse".
Il s'agit clairement d'une tentative d'inciter les utilisateurs à opter pour les fonctionnalités les plus sexuellement explicites de l'abonnement Pro, y compris la possibilité de spécifier le type de relation que vous souhaitez réellement et d'obtenir "[spicy] (https://www.giantfreakinrobot.com/ cltr/see-margot-robbie-short-mini-dress.html) » des photos de celui-ci. Mais le fait que même les utilisateurs non professionnels ne puissent pas facilement désactiver les messages indésirables signifie que l'application était autrefois censée être votre [compagnon numérique] (https://www.giantfreakinrobot.com/ent/doctor-who-rose-tyler -spinoff.html) est devenu l'équivalent IA de cet étrange ami de lycée qui devient dragueur et agressif alors que tout ce que vous vouliez faire était de demander comment ça allait chez vous.