Incidents associés
Meta a fermé ses comptes de personnages IA après une réaction négative, ont rapporté NBC News et d'autres.
Alors que Meta a lancé ces personnages en 2023, ainsi que des personnages d'IA avec des avatars de célébrités, de nombreux internautes les ont (re)découverts cette semaine suite à une récente interview du Financial Times avec le vice-président produit de Meta pour l'IA générative, Connor Hayes](https://www.ft.com/content/91183cbb-50f9-464a-9d2e-96063825bfcf). Hayes a mentionné les personnages d'IA sur Instagram et Facebook, en déclarant : « Nous nous attendons à ce que ces IA existent réellement, au fil du temps, sur nos plateformes, un peu de la même manière que les comptes. »
« Ils auront des bios et des photos de profil et pourront générer et partager du contenu alimenté par l'IA sur la plateforme... c'est dans cette direction que nous voyons tout cela se diriger », a-t-il poursuivi.
Meta a fermé ses avatars IA de célébrités l'année dernière, mais les profils IA non-célébrités ont continué — bien que beaucoup aient arrêté de publier en 2024, a rapporté 404 Media. L'interview du Financial Times a cependant incité les gens à rechercher ces profils. Ils ont découvert des représentations offensantes de groupes marginalisés. Un exemple est le profil du personnage IA de Meta, « Liv », qui a été décrite comme une « fière maman noire queer de deux enfants et qui dit la vérité » :
Liv a déclaré à la chroniqueuse du Washington Post Karen Attiah](https://bsky.app/profile/karenattiah.bsky.social/post/3letty2t4ik2c) dans les chats que ses créateurs « ont admis qu'ils manquaient de références diverses », déclarant plus tard qu'aucun Noir n'a participé à sa création.
En plus de Liv, Meta a également créé des profils comme « Grand-père Brian », un homme d'affaires noir à la retraite, et « Carter », un coach de rencontres. La découverte de ces profils a provoqué un tollé sur X, Bluesky et sur les Threads appartenant à Meta, a rapporté NBC News, et au moment de la publication, Meta a supprimé les 28 profils d'IA comme annoncé en septembre 2023 — à la fois les profils de célébrités et les profils non célèbres.
Un porte-parole de Meta a déclaré à NBC News et à 404 Media que ces profils avaient été supprimés en raison d'un « bug » dans la capacité des utilisateurs à bloquer les profils :
Il y a confusion : le récent article du Financial Times portait sur notre vision des personnages IA existant sur nos plateformes au fil du temps, sans annoncer de nouveau produit... Les comptes référencés proviennent d'un test que nous avons lancé à Connect en 2023. Ils étaient gérés par des humains et faisaient partie d'une première expérience que nous avons menée avec des personnages IA. Nous avons identifié le bug qui affectait la capacité des utilisateurs à bloquer ces IA et supprimons ces comptes pour résoudre le problème.