Incident 1101: Une application Meta AI publierait des conversations personnelles sans que les utilisateurs ne s'en rendent pleinement compte
Description: Meta a lancé une application d'IA autonome avec un flux « Découvrir » permettant aux utilisateurs de partager des conversations avec son chatbot. Plusieurs rapports indiquent que certains utilisateurs auraient publié par inadvertance des interactions très personnelles, notamment des enregistrements audio, des questions médicales, des préoccupations juridiques et des révélations sur des relations intimes. Bien que Meta précise que le partage est facultatif, la conception et l'étiquetage de la fonctionnalité ont pu semer la confusion chez les utilisateurs quant à ce qui serait visible publiquement.
Outils
Nouveau rapportNouvelle RéponseDécouvrirVoir l'historique
Le Moniteur des incidents et risques liés à l'IA de l'OCDE (AIM) collecte et classe automatiquement les incidents et risques liés à l'IA en temps réel à partir de sources d'information réputées dans le monde entier.
Entités
Voir toutes les entitésPrésumé : Un système d'IA développé et mis en œuvre par Meta et Meta AI, a endommagé Meta users.
Système d'IA présumé impliqué: Meta AI
Statistiques d'incidents
ID
1101
Nombre de rapports
3
Date de l'incident
2025-04-29
Editeurs
Daniel Atherton
Rapports d'incidents
Chronologie du rapport
Loading...
Il est 22 h, je suis au lit, sur mon téléphone, à écouter un extrait audio d'une femme demandant à un chatbot IA des conseils médicaux concernant sa tortue malade. Pour quelqu'un qui adore se mêler des affaires des autres, je suis aux anges…
Loading...
L'application d'IA autonome de Meta a été lancée fin avril, et comme beaucoup, ma première pensée a été : « Hein ? » Après l'avoir essayée un peu, ma seconde pensée a été : « Oh non ! ». Quelques semaines plus tard, après l'afflux initial d…
Loading...
Un homme veut savoir comment aider son ami à sortir du placard. Une tante peine à trouver les mots justes pour féliciter sa nièce pour son diplôme. Et un homme veut savoir comment demander à une fille – « en asiatique » – si elle s'intéress…
Variantes
Une "Variante" est un incident de l'IA similaire à un cas connu—il a les mêmes causes, les mêmes dommages et le même système intelligent. Plutôt que de l'énumérer séparément, nous l'incluons sous le premier incident signalé. Contrairement aux autres incidents, les variantes n'ont pas besoin d'avoir été signalées en dehors de la base de données des incidents. En savoir plus sur le document de recherche.
Vous avez vu quelque chose de similaire ?
