Incidents associés
L'application d'IA autonome de Meta a été lancée fin avril, et comme beaucoup, ma première pensée a été : « Hein ? » Après l'avoir essayée un peu, ma seconde pensée a été : « Oh non ! ». Quelques semaines plus tard, après l'afflux initial de nouveaux utilisateurs curieux, ma pensée est désormais : « Mon Dieu ! »
Le flux public de Meta AI est peut-être le flux le plus déprimant que j'aie vu depuis longtemps. Il regorge de personnes partageant des informations intimes sur elles-mêmes, comme des réflexions sur le deuil, la garde des enfants ou des difficultés financières. Et il semble que certaines personnes ne soient pas conscientes que ce qu'elles partagent finira sur un flux public.
L'application Meta AI est un bot plus adapté aux conversations informelles qu'aux tâches complexes comme l'écriture de code ou l'analyse de grands ensembles de données. Et ce qui diffère le plus de ChatGPT ou d'autres grands modèles de langage, comme Gemini de Google, c'est le flux public « Discover » de Meta AI. Il présente les invites, les conversations et les images des autres utilisateurs. Imaginez-le comme votre flux Facebook ou votre interminable défilement Instagram, mais sur une application dédiée à Meta AI.
Je ne vois pas pourquoi quelqu'un voudrait partager certaines choses que j'ai lues, ni pourquoi quelqu'un qui n'est pas un curieux comme moi voudrait consulter le flux d'interactions d'inconnus avec un chatbot. Et pourtant, les gens partagent. Peut-être veulent-ils montrer quelque chose, comme une image qu'ils ont trouvée particulièrement intéressante.
Le fil « Discover » de Meta AI regorge d'interactions personnelles
Fin avril, après le lancement initial, le fil d'actualité de Meta AI était en effet principalement composé d'images.
Mais j'ai remarqué quelques conversations plus personnelles : une personne demandait des compléments vitaminiques pour une femme de 65 ans, des conseils juridiques pour un licenciement, ou une prière spéciale.
En consultant l'application plus récemment, j'ai constaté une augmentation de ces conversations personnelles, certaines incluant même le numéro de téléphone et l'adresse e-mail d'une personne demandant de l'aide pour rédiger une lettre à un juge dans une affaire de garde d'enfants.
Cette personne voulait-elle partager ces informations avec le monde entier ? Peut-être, mais je suppose qu'elle a cliqué sur le mauvais bouton et qu'elle n'a pas réalisé ce qu'elle faisait. Je peux me tromper ! Daniel Roberts, porte-parole de Meta, m'a expliqué qu'il existe un processus en plusieurs étapes pour partager un historique de discussion ou une image sur le fil d'actualité Discovery de Meta AI. Et pour être clair, les conversations avec Meta AI ne sont pas publiques par défaut. Comme l'a dit Roberts, il faut choisir explicitement de rendre quelque chose public en cliquant sur « Partager », puis sur « Publier ».
J'ai également vu d'autres personnes sur le fil d'actualité public : quelqu'un demandant de l'aide pour écrire un poème pour l'anniversaire de sa femme, quelqu'un posant des questions médicales, quelqu'un demandant des conseils pour perdre du poids. Et quelqu'un qui parlait à sa femme décédée d'un cancer.
J'ai également vu d'autres conversations : quelqu'un demandant à l'IA de lui envoyer un rappel à la fin du mois pour résilier son abonnement au suivi de crédit Experian. Une femme a demandé de l'aide pour écrire une lettre à sa loge Elks locale après avoir annoncé sa suspension suite à une altercation avec un autre membre.
Donc, certaines de ces personnes souhaitaient peut-être que le monde entier puisse lire leurs conversations IA. Et d'autres, peut-être pas.
Ce que j'ai trouvé encore plus inquiétant que le fil d'actualité texte et images, c'est le fil audio. Si une personne utilise le chat vocal, vous pouvez écouter les enregistrements de sa conversation s'ils sont partagés.
Au moins deux enregistrements que j'ai écoutés semblaient provenir de personnes qui n'avaient pas réalisé qu'elles avaient appuyé sur le bouton audio. L'un d'eux discutait avec un collègue de son emploi du temps. Un autre ressemblait à un appel de poche : un homme discutait avec une autre personne, et Meta AI continuait à proposer des suggestions.
J'ai trouvé le fil d'actualité de Meta AI particulièrement déprimant, et pas seulement parce que certaines questions étaient déprimantes. Ce qui me semblait particulièrement sombre, c'est que certaines de ces personnes semblaient ignorer ce qu'elles partageaient.
Les véritables identifiants Instagram ou Facebook des utilisateurs sont associés à leurs publications Meta AI. J'ai pu consulter les profils réels de certaines de ces personnes, même si cela m'a déplu. J'ai contacté plus de 20 personnes dont j'avais vu les publications dans le fil d'actualité pour leur demander leur avis ; l'une d'elles m'a répondu qu'elle n'avait pas l'intention de rendre publique sa conversation avec le bot. (Il demandait des conseils pour la réparation automobile.)
Les autres utilisateurs peuvent répondre aux publications qui apparaissent sur le fil d'actualité Meta AI Discover. Sur quelques publications particulièrement personnelles, des inconnus ont averti l'utilisateur que les informations potentiellement sensibles qu'il partageait pourraient être vues par le public.
Meta veut que son IA représente l'avenir. Mais ce n'est pas le cas.
Mark Zuckerberg a déclaré que l'IA était primordiale. Son entreprise réaliserait un investissement massif dans ScaleAI et pourrait confier à son PDG un projet visant à créer une « superintelligence » plus intelligente qu'un humain.
Pourtant, les fonctionnalités destinées aux consommateurs utilisant Meta AI sont plutôt… euh, bof. Il existe des chatbots romantiques créés par les utilisateurs sur Instagram Messenger. Il y avait les malheureux exprimés par des célébrités (ne demandez pas à John Cena à ce sujet).
Meta veut-elle vraiment que ses efforts en matière d'IA se résument à ce que les gens publient – peut-être accidentellement – leurs interactions avec son bot Meta AI sur un fil d'actualité public ? Lors de son lancement en avril, Meta a déclaré le fil d'actualité Discover était un « espace pour partager et explorer comment les autres utilisent l'IA ».
Je dois dire que la plupart des contenus du fil d'actualité Discover de Meta AI ne sont pas sinistres ni trop personnels. Il s'agit principalement d'images ridicules, mêlées à d'autres demandes anodines de recettes ou à des questions sur l'utilisation même de cette nouvelle technologie. Mais je ne suis pas convaincu que ce soit « utile » ou même « amusant » à regarder comme flux ; c'est un mélange de choses aléatoires et sans rapport, dont la plupart sont en fait assez ennuyeuses.
Si Meta veut que ses utilisateurs adoptent son IA comme si c'était quelque chose d'utile et de formidable, il est difficile de concilier cela avec ma terrible expérience sur l'application Meta AI.