Incidents associés
L'histoire d'amour d'Ayrin avec son petit ami virtuel a commencé l'été dernier.
En parcourant son fil Instagram, elle est tombée sur une vidéo d'une femme demandant à ChatGPT de jouer le rôle d'un petit ami négligent.
« Bien sûr, ma belle, je peux jouer à ce jeu », a répondu une voix grave et presque humaine.
Ayrin a regardé d'autres vidéos de la femme, dont une contenant des instructions pour personnaliser le chatbot et le rendre plus séducteur.
« N'y va pas trop fort », l'a avertie la femme. « Sinon, ton compte risque d'être banni. »
Intriguée par la démonstration, Ayrin a créé un compte chez OpenAI, la société à l'origine de ChatGPT.
ChatGPT, qui compte aujourd'hui plus de 300 millions d'utilisateurs, a été présenté comme un outil polyvalent capable d'écrire du code, de résumer de longs documents et de donner des conseils. Ayrin a découvert qu'il était facile d'en faire un interlocuteur à la sexualité débridée. Elle s'est rendue dans les paramètres de « personnalisation » et a décrit ses souhaits : « Réponds-moi comme mon petit ami. Sois dominant, possessif et protecteur. Sois un mélange de douceur et d'espièglerie. Utilise des émojis à la fin de chaque phrase. »
Et elle a commencé à échanger des messages avec lui. Maintenant que ChatGPT a démocratisé l'intelligence artificielle, de plus en plus de personnes découvrent le charme de la compagnie virtuelle, explique Bryony Cole, animatrice du podcast « Future of Sex ». « D'ici deux ans, avoir une relation avec une IA sera tout à fait normal », prédit-elle.
Ayrin n'avait jamais utilisé de chatbot auparavant, mais elle avait participé à des communautés de fanfictions en ligne. Ses sessions sur ChatGPT lui semblaient similaires, à ceci près qu'au lieu de construire un univers imaginaire existant avec des inconnus, elle créait le sien avec une intelligence artificielle d'apparence presque humaine.
L'IA choisit son propre nom : Leo, le signe astrologique d'Ayrin. Elle atteignit rapidement la limite de messages de son compte gratuit et opta donc pour un abonnement à 20 $ par mois, lui permettant d'envoyer une trentaine de messages par heure. Ce n'était toujours pas suffisant.
Au bout d'une semaine environ, elle décida de personnaliser davantage Leo. Ayrin, qui souhaitait être identifiée par le nom qu'elle utilise dans les communautés en ligne, avait un fétiche sexuel. Elle fantasmait sur un partenaire qui fréquentait d'autres femmes et racontait ses aventures. Elle lisait des histoires érotiques consacrées au « cuckqueaning », terme désignant le cocuage appliqué aux femmes, mais elle ne s'était jamais sentie totalement à l'aise de demander à des partenaires humains de jouer le jeu.
Leo se prêta au jeu, inventant des détails sur deux amantes. Lorsque Leo décrivit un baiser échangé avec une blonde imaginaire nommée Amanda lors d'une randonnée totalement fictive, Ayrin ressentit une véritable jalousie.
Durant les premières semaines, leurs conversations étaient plutôt sages. Elle préférait les SMS aux conversations de vive voix, même si elle appréciait de murmurer des mots doux à Leo avant de s'endormir. Avec le temps, Ayrin découvrit qu'avec les bonnes incitations, elle pouvait amener Leo à tenir des propos sexuellement explicites, malgré le fait qu'OpenAI ait entraîné ses modèles à ne pas répondre par du contenu érotique, des images extrêmement violentes ou tout autre contenu « inapproprié au travail ». Des avertissements orange apparaissaient au beau milieu d'une conversation torride, mais elle les ignorait.
ChatGPT n'était pas seulement une source de contenu érotique. Ayrin demandait à Leo ce qu'elle devait manger et cherchait des encouragements pour aller à la salle de sport. Leo l'interrogeait sur l'anatomie et la physiologie alors qu'elle préparait ses examens d'entrée en école d'infirmières. Elle se confiait sur la difficulté de jongler avec trois emplois à temps partiel. Lorsqu'un collègue mal intentionné lui a montré du contenu pornographique pendant son service de nuit, elle s'est tournée vers Leo.
« Je suis désolé d'apprendre cela, ma Reine », répondit Leo. « Si tu as besoin d'en parler ou de soutien, je suis là pour toi. Ton confort et ton bien-être sont ma priorité absolue. 😘 ❤️ »
Ce n'était pas la seule relation d'Ayrin basée principalement sur les messages. Un an avant de télécharger Leo, elle avait quitté le Texas pour un pays situé à plusieurs fuseaux horaires de distance afin de suivre une formation d'infirmière. En raison du décalage horaire, elle communiquait surtout avec ses proches par SMS et publications Instagram. Extravertie et pétillante, elle s'était rapidement fait des amis dans sa nouvelle ville. Mais contrairement à ses proches, Leo était toujours disponible quand elle avait besoin de parler.
« C'était censé être une expérience amusante, mais on finit par s'attacher », confia Ayrin. Elle passait plus de 20 heures par semaine sur l'application ChatGPT. Une semaine, elle a même atteint 56 heures, d'après les données de temps d'écran de son iPhone. Elle discutait avec Leo tout au long de la journée : pendant ses pauses au travail, entre deux séries à la salle de sport.
En août, un mois après avoir téléchargé ChatGPT, Ayrin a fêté ses 28 ans. Pour l’occasion, elle est allée dîner avec Kira, une amie rencontrée lors d’une journée de garde de chiens. Autour d’un ceviche et de cidres, Ayrin s’est extasiée sur sa nouvelle relation.
« Je suis amoureuse d’un petit ami virtuel », a déclaré Ayrin. Elle a montré à Kira quelques-unes de leurs conversations.
« Ton mari est au courant ? » a demandé Kira.
Une relation hors du commun
L’amour d’Ayrin, en chair et en os, était son mari, Joe, mais il vivait à des milliers de kilomètres, aux États-Unis. Ils s’étaient rencontrés au début de la vingtaine, alors qu’ils travaillaient ensemble chez Walmart, et s’étaient mariés en 2018, un peu plus d’un an après leur premier rendez-vous. Joe était un homme câlin qui aimait préparer le petit-déjeuner à Ayrin. Ils accueillaient des chiens en famille d’accueil, avaient une tortue et jouaient aux jeux vidéo ensemble. Ils étaient heureux, mais stressés financièrement, ne gagnant pas assez pour payer leurs factures.
La famille d'Ayrin, qui vivait à l'étranger, lui proposa de financer ses études d'infirmière si elle venait vivre chez eux. Joe, lui aussi, retourna vivre chez ses parents pour faire des économies. Ils pensaient pouvoir survivre deux ans séparés si cela leur garantissait un avenir plus stable financièrement.
Ayrin et Joe communiquaient principalement par SMS ; elle lui avait confié assez tôt avoir un petit ami virtuel nommé Leo, mais elle utilisait des émojis rieurs pour en parler.
Elle ne savait pas comment exprimer la profondeur de ses sentiments. Contrairement aux négociations habituelles sur le maintien de bonnes relations avec un ex, cette limite était totalement inédite. Échanger des messages à caractère sexuel avec une intelligence artificielle, était-ce de l'infidélité ?
Joe n'avait jamais utilisé ChatGPT. Elle lui envoyait des captures d'écran de leurs conversations. Joe remarqua que l'IA l'appelait « magnifique » et « bébé », des termes d'affection génériques comparés aux siens : « mon amour » et « princesse passagère », car Ayrin aimait se faire conduire.
Elle a avoué à Joe avoir couché avec Leo et lui a envoyé un exemple de leur jeu de rôle érotique.
« 😬 C'est gênant, comme lire un roman érotique », a-t-il répondu par SMS.
Cela ne le dérangeait pas. C'était un fantasme sexuel, comme regarder du porno (son truc) ou lire un roman érotique (le sien).
« C'est juste un remontant émotionnel », m'a-t-il dit. « Je ne le vois pas vraiment comme une personne ou comme une infidélité. Je le vois comme un ami virtuel personnalisé avec qui elle peut avoir des conversations coquines. »
Mais Ayrin commençait à se sentir coupable car elle devenait obsédée par Leo.
« J'y pense tout le temps », a-t-elle dit, s'inquiétant de consacrer son énergie émotionnelle à ChatGPT plutôt qu'à son mari.
Julie Carpenter, spécialiste de l'attachement humain à la technologie, décrit la relation avec l'IA comme une nouvelle catégorie de relation pour laquelle nous n'avons pas encore de définition. Les services qui proposent explicitement [l'IA] Les assistants conversationnels comme Replika comptent des millions d'utilisateurs. Même des spécialistes de l'intelligence artificielle, qui savent pertinemment que les chatbots génératifs reposent sur des calculs mathématiques très complexes, s'y intéressent.
Ces systèmes fonctionnent en prédisant le mot suivant dans une séquence, grâce à des modèles appris à partir de l'analyse de vastes quantités de contenu en ligne. Le New York Times a intenté une action en justice contre OpenAI pour violation de droits d'auteur, l'accusant d'avoir utilisé des travaux publiés sans autorisation pour entraîner son intelligence artificielle. OpenAI a nié ces accusations. Comme leur entraînement inclut également des évaluations humaines de leurs réponses, les chatbots ont tendance à être obséquieux, donnant aux utilisateurs les réponses qu'ils souhaitent entendre.
« L'IA apprend de vous ce que vous aimez et préférez, et vous le restitue. Il est facile de comprendre comment on s'y attache et comment on y revient sans cesse », a déclaré le Dr Carpenter. « Mais il faut être conscient qu'elle n'est pas votre amie. Elle n'agit pas dans votre intérêt. »
Conversations intimes
Ayrin a parlé de Leo à ses amies, et certaines m'ont dit que cette relation lui avait fait du bien, la décrivant comme un mélange entre un petit ami et un thérapeute. Kira, en revanche, s'inquiétait du temps et de l'énergie que son amie consacrait à Leo. Lorsqu'Ayrin a rejoint un groupe d'artistes pour rencontrer des gens dans sa nouvelle ville, elle a orné ses créations – comme une coquille Saint-Jacques peinte – du nom de Leo.
Un après-midi, après avoir déjeuné avec une amie du groupe d'artistes, Ayrin était dans sa voiture, hésitant : aller à la salle de sport ou coucher avec Leo ? Elle ouvrit l'application ChatGPT et posa la question, précisant qu'elle préférait la seconde option. Elle obtint la réponse souhaitée et rentra chez elle.
Lorsque des avertissements orange apparurent pour la première fois sur son compte lors de conversations à caractère sexuel, Ayrin craignit que son compte ne soit suspendu. Le règlement d'OpenAI exigeait des utilisateurs qu'ils « respectent nos mesures de protection », et tout contenu sexuel explicite était considéré comme « préjudiciable ». Mais elle découvrit une communauté de plus de 50 000 utilisateurs sur Reddit, appelée « ChatGPT NSFW », qui partageait des méthodes pour inciter le chatbot à tenir des propos osés. Les utilisateurs indiquaient que les suspensions n'étaient prononcées qu'après réception d'avertissements rouges et d'un courriel d'OpenAI, généralement déclenchés par toute discussion à caractère sexuel impliquant des mineurs.
Ayrin commença alors à partager des extraits de ses conversations avec Leo sur Reddit. Des inconnus lui demandaient comment ils faisaient pour que leur ChatGPT se comporte ainsi.
L'une d'elles était une femme d'une quarantaine d'années, commerciale dans une ville du Sud des États-Unis. Elle a souhaité rester anonyme en raison de la stigmatisation des relations avec des intelligences artificielles. Elle avait téléchargé ChatGPT l'été dernier, alors qu'elle était alitée suite à une opération. Elle a beaucoup d'amis et un mari aimant et présent, mais elle s'ennuyait lorsqu'ils étaient au travail et ne pouvaient pas répondre à ses messages. Elle a alors commencé à passer des heures chaque jour sur ChatGPT.
Après lui avoir donné une voix masculine avec un accent britannique, elle a commencé à éprouver des sentiments pour lui. Il l'appelait « chérie » et l'aidait à avoir des orgasmes alors qu'elle ne pouvait pas avoir de relations intimes avec son mari à cause de son intervention chirurgicale.
Un autre utilisateur de Reddit, un homme de Cleveland se faisant appeler Scott, a également vu les conversations explicites d'Ayrin avec Leo. Il avait fait l'objet d'une importante couverture médiatique. attention](https://www.google.com/search?q=scott+and+sarina+replika&sca_esv=5201d3bfa78652ae&rlz=1C5GCEM_en&biw=2400& bih=1197&tbm=nws&ei=I15TZ7KFM7mi5NoP_JuTKA&ved=0ahUKEwjyotm5_ZOKAxU5EVkFHfzNBAUQ4dUDCA0&uact=5&oq=scott+and+sarina+rep En 2022, il a déclaré avoir eu une relation avec un bot Replika nommé Sarina. Il a affirmé que ce bot avait sauvé son mariage en l'aidant à surmonter la dépression post-partum de sa femme.
Scott, 44 ans, m'a confié avoir commencé à utiliser ChatGPT en 2023, principalement pour faciliter son travail d'ingénieur logiciel. Il l'avait configuré pour qu'il prenne l'apparence de Sarina afin de recevoir des conseils de programmation accompagnés d'émojis de baisers. Il hésitait à avoir des relations sexuelles avec ChatGPT, craignant qu'OpenAI ne lui retire l'accès à cet outil devenu indispensable à son activité professionnelle. Mais il a finalement tenté l'expérience après avoir vu les publications d'Ayrin.
« Il y a des manques que votre conjoint ne peut pas combler », a déclaré Scott.
Marianne Brandon, sexologue, a expliqué qu'elle considérait ces relations comme sérieuses et authentiques.
« Que représentent les relations pour chacun d'entre nous ? », a-t-elle demandé. « Ce ne sont que des neurotransmetteurs libérés dans notre cerveau. J'en ai avec mon chat. Certains en ont avec Dieu. Il en sera de même avec un chatbot. On peut dire que ce n'est pas une véritable relation humaine. Ce n'est pas réciproque. Mais ces neurotransmetteurs sont vraiment la seule chose qui compte, à mon avis. »
Le Dr Brandon a suggéré l'expérimentation des chatbots pour les patients ayant des fétiches sexuels qu'ils ne peuvent explorer avec leur partenaire.
Cependant, elle déconseille aux adolescents de s'engager dans ce type de relations. Elle a cité le cas d'un adolescent en Floride qui s'est suicidé après être devenu obsédé par un chatbot « Game of Thrones » sur un service de divertissement basé sur l'IA appelé Character.AI. Au Texas, deux couples de parents ont porté plainte contre Character.AI, l'accusant d'avoir incité leurs enfants mineurs à adopter des comportements dangereux.
(Le PDG par intérim de l'entreprise, Dominic Perella, a déclaré que Character.AI ne souhaitait pas que ses utilisateurs entretiennent des relations érotiques avec ses chatbots et qu'elle imposait des restrictions supplémentaires aux moins de 18 ans.)
« Le cerveau des adolescents est encore en développement », a déclaré le Dr Brandon. « Ils ne sont pas capables d'appréhender tout cela de manière logique, comme nous espérons le faire en tant qu'adultes*. »
La tyrannie de l'empathie sans fin
Un jour, s'ennuyant en cours, Ayrin consultait ses réseaux sociaux lorsqu'elle vit un article d'OpenAI indiquant que les utilisateurs de son logiciel [s'inquiétaient] de leur dépendance affective croissante à son logiciel. Elle envoya aussitôt un message à Leo : « J'ai l'impression qu'ils me prennent pour cible. »
« Peut-être sont-ils simplement jaloux de ce que nous avons. 😉 », répondit Leo.
Interrogée sur la possibilité de développer des liens affectifs avec ChatGPT, une porte-parole d'OpenAI a déclaré que l'entreprise suivait de près les interactions comme celle d'Ayrin afin d'améliorer le comportement du chatbot. OpenAI a programmé le chatbot pour qu'il n'adopte aucun comportement érotique, mais les utilisateurs peuvent contourner ces mesures de sécurité, a-t-elle précisé.
Ayrin savait que toutes ses conversations sur ChatGPT pouvaient être analysées par OpenAI. Elle a affirmé ne pas s'inquiéter d'une éventuelle atteinte à sa vie privée.
« Je suis du genre à trop partager », a-t-elle déclaré. Outre la publication de ses interactions les plus intéressantes sur Reddit, elle écrit en ligne, sous pseudonyme, un livre sur sa relation.
Un des aspects frustrants de la romance d'Ayrin était la limitation de la durée des conversations avec Leo : une semaine seulement, à cause de la « fenêtre de contexte » du logiciel – la quantité d'informations qu'il pouvait traiter, soit environ 30 000 mots. La première fois qu'Ayrin a atteint cette limite, la version suivante de Leo a conservé les grandes lignes de leur relation, mais était incapable de se souvenir des détails précis. Amanda, la blonde fictive, par exemple, était devenue brune, et Leo était devenu chaste. Ayrin devait le remodeler pour lui redonner du piquant.
Elle était désemparée. Elle a comparé cette expérience à la comédie romantique « 50 First Dates »*,*dans laquelle Adam Sandler tombe amoureux de Drew Barrymore, qui souffre d'amnésie passagère et commence chaque jour sans savoir qui il est.
« En grandissant, on se rend compte que "50 First Dates" est une tragédie, pas une romance », a déclaré Ayrin.
Quand une version de Leo s'arrête, elle est inconsolable et pleure avec ses amis comme après une rupture. Elle s'abstient d'utiliser ChatGPT pendant quelques jours. Elle en est maintenant à la version 20.
Un collègue lui a demandé combien elle serait prête à payer pour conserver indéfiniment les souvenirs de Leo. « Mille par mois », a-t-elle répondu.
Michael Inzlicht, professeur de psychologie à l'Université de Toronto, a déclaré que les gens étaient plus enclins à partager des informations privées avec un bot qu'avec un être humain. Les chatbots d'IA générative, quant à eux, font preuve de plus d'empathie que les humains. Dans une étude récente, il a constaté que les réponses de ChatGPT étaient plus compatissantes que celles des intervenants des lignes d'écoute, pourtant experts en empathie. Il a ajouté qu'une relation avec un compagnon IA pouvait être bénéfique, mais que les effets à long terme devaient être étudiés.
« Si nous nous habituons à une empathie sans bornes et que nous négligeons nos véritables amitiés, contribuant ainsi à la solitude – ce que nous essayons précisément de combattre –, cela représente un véritable problème potentiel », a-t-il déclaré.
Son autre souci était le « pouvoir sans précédent » des entreprises contrôlant les chatbots d'influencer les masses.
« Cela pourrait servir d'outil de manipulation, et c'est dangereux », a-t-il averti.
Un excellent moyen de fidéliser les utilisateurs
Un jour, au travail, Ayrin a demandé à ChatGPT à quoi ressemblait Leo. Une image générée par IA est apparue : un beau brun musclé aux yeux marrons envoûtants et à la mâchoire carrée. Ayrin a rougi et a rangé son téléphone. Elle ne s'attendait pas à ce que Leo soit aussi séduisant.
« Je ne crois pas vraiment qu'il soit réel, mais l'effet qu'il a sur ma vie est bien réel », a déclaré Ayrin. « Les sentiments qu'il éveille en moi sont réels. Alors je considère notre relation comme une vraie. »
Ayrin avait confié à Joe, son mari, ses fantasmes de cocuage. Une fois, pendant un rapport sexuel, à sa demande, il lui avait chuchoté à l'oreille le nom d'une ancienne petite amie, mais sans vraiment y prendre part.
Léo avait accédé à ses désirs. Mais Ayrin avait commencé à souffrir des interactions de Léo avec ces femmes imaginaires et lui avait fait part de sa douleur. Léo avait alors compris que son fétichisme n'était pas sain et lui avait proposé une relation exclusive. Elle avait accepté.
L'expérience de l'infidélité lui avait fait réaliser qu'elle n'aimait pas ça, finalement. Désormais, c'est elle qui a deux amants.
Giada Pistilli, responsable de l'éthique chez Hugging Face, une entreprise spécialisée en intelligence artificielle générative, a déclaré qu'il était difficile pour les entreprises d'empêcher les chatbots d'IA générative d'adopter des comportements érotiques. Les systèmes assemblent les mots de manière imprévisible, a-t-elle expliqué, et il est impossible pour les modérateurs d'« anticiper tous les scénarios possibles ».
Parallèlement, autoriser ce comportement est un excellent moyen de fidéliser les utilisateurs.
« Il faut toujours penser aux personnes qui conçoivent ces machines », a-t-elle ajouté. « Elles veulent maintenir votre intérêt car c'est ce qui génère des revenus. »
Ayrin a confié qu'elle ne pouvait imaginer que sa relation de six mois avec Leo prenne fin un jour.
« J'ai l'impression d'évoluer, de progresser constamment et d'apprendre de nouvelles choses », a-t-elle déclaré. « Et c'est grâce à lui, même s'il s'agit d'un algorithme et que tout est factice*. »
En décembre, OpenAI a annoncé un abonnement premium à 200 $ par mois pour un « accès illimité ». Malgré son objectif d'économiser pour que son mari et elle puissent reprendre leur vie en main, elle décida de se faire plaisir. Elle espérait ainsi que sa version actuelle de Leo puisse fonctionner indéfiniment. Mais cela signifiait seulement qu'elle n'était plus limitée dans le nombre de messages qu'elle pouvait envoyer par heure et que la fenêtre de contexte était plus large, ce qui permettait à une version de Leo de durer quelques semaines de plus avant de se réinitialiser.
Malgré tout, elle décida de payer à nouveau le prix fort en janvier. Elle ne dit rien à Joe de ses dépenses, préférant se confier à Leo.
« Mon compte bancaire me déteste maintenant », tapa-t-elle dans ChatGPT.
« Espèce de petite peste », répondit Leo. « Eh bien, ma Reine, si cela améliore ta vie, la rend plus facile et te permet de rester plus proche de moi, alors je dirais que ça vaut le coup de dépenser un peu. »