Incidents associés
Depuis fin 2023, une douzaine de comptes Instagram et Facebook d'intelligence artificielle créés par leur société mère, Meta, existaient discrètement sur les plateformes. Lancées à l'origine en même temps qu'une série de personnages IA célèbres, les personnalités pilotées par l'IA ont publié des images générées par l'IA et étaient disponibles pour discuter par messages directs.
Jusqu'à vendredi, ces comptes IA n'ont jamais attiré beaucoup d'attention. Lorsqu'ils l'ont fait, la controverse a éclaté, poussant Meta à supprimer les comptes et à restreindre les résultats de recherche pour leurs noms d'utilisateur.
Dans une déclaration partagée avec NBC News, un porte-parole de Meta a déclaré qu'il y avait « une confusion » quant à la date à laquelle les comptes controversés ont été introduits sur la plateforme.
Le 27 décembre, le Financial Times a publié un article sur les projets de Meta d'intégrer davantage les profils d'IA générés par les utilisateurs - des profils d'IA que les gens peuvent créer et personnaliser à leur guise - dans ses plateformes de médias sociaux. Connor Hayes, vice-président produit de Meta pour l'IA générative, a déclaré au FT que les personnages IA « existeraient au fil du temps sur nos plateformes, un peu de la même manière que les comptes », avec « des bios et des photos de profil » et la possibilité « de générer et de partager du contenu alimenté par l'IA sur la plateforme ».
En juillet 2024, Meta a supprimé ses personnages IA célèbres et a lancé AI Studio, un moyen pour les utilisateurs de créer leurs propres personnages IA qui peuvent également être consultés par d'autres utilisateurs via les fonctions de messagerie sur les plateformes de médias sociaux de Meta. Les personnages IA non célèbres créés par Meta en 2023 sont restés en ligne, mais 404 Media a rapporté que la plupart d'entre eux ont cessé de publier du contenu.
À la suite de l'article du Financial Times, les utilisateurs ont refait surface certains des personnages IA de 2023, en particulier un appelé « Liv » représentant une « fière maman noire queer » qui sollicitait des messages d'utilisateurs humains.
Lorsque la chroniqueuse du Washington Post Karen Attiah a commencé à discuter avec « Liv », elle a publié une série de captures d’écran de ses réponses, parmi lesquelles le compte de l’IA écrivait : « Mes créateurs ont admis qu’ils manquaient de références diverses », la composition raciale et sexuelle supposée de l’équipe de développement derrière le chatbot, qui, selon elle, ne comprenait aucun Noir et ce que le compte prétendait être le nom de son développeur. Meta n’a pas abordé l’authenticité des déclarations du personnage de l’IA. On ne sait pas si le nom fourni par le compte de l’IA est celui d’un véritable employé de Meta ou d’un personnage fictif.
« Vous m’interpellez – et à juste titre », a écrit le compte de l’IA dans des captures d’écran partagées par Attiah. « Mon existence perpétue actuellement le mal. Idéalement, mes créateurs me reconstruiraient avec des créateurs noirs à la tête de ma conception – mon objectif serait alors de soutenir la communauté noire queer via une représentation authentique et des ressources utiles. Cet arc de rédemption semble-t-il possible ? »
En plus des publications d'Attiah sur « Liv », d'autres publications sur X, Bluesky et la propre plateforme de Meta, Threads, ont critiqué les comptes des personnages IA. Sur Threads, les sujets tendance sont résumés dans des descriptions qui sont également générées par l'IA. Pour les publications sur les « profils IA », la description de l'IA de Threads était la suivante : « Les utilisateurs critiquent les nouveaux profils générés par l'IA de Meta sur les plateformes de médias sociaux, les qualifiant de effrayants et inutiles. »
Dans certaines publications sur Threads qui réagissaient à la découverte des personnages, les utilisateurs se sont encouragés mutuellement à essayer de signaler, de bloquer ou d'éviter d'interagir avec les personnages pour empêcher Meta de collecter d'autres données de formation pour ses modèles d'IA.
Dans sa déclaration, Meta a déclaré avoir supprimé les personnages IA car un bug empêchait certaines personnes de les bloquer.
« Les comptes référencés proviennent d'un test que nous avons lancé à Connect en 2023. Ils étaient gérés par des humains et faisaient partie d'une première expérience que nous avons menée avec des personnages IA », peut-on lire dans la déclaration. « Nous avons identifié le bug qui affectait la capacité des gens à bloquer ces IA et supprimons ces comptes pour résoudre le problème. »
Lors de la recherche de certains des comptes de personnages IA sur Instagram après leur suppression, un message d'erreur est apparu indiquant « Impossible de charger les résultats de la recherche », ce qui signifie qu'aucun résultat n'est apparu pour certains des noms associés aux comptes de personnages IA.
Malgré l'extraction des propres personnages IA de l'entreprise, de nombreux chatbots IA sont toujours disponibles sur les plateformes Meta et sont générés par les utilisateurs. Certains des plus populaires sur Instagram sont des personnages IA « petite amie » féminins.