Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Traduit par IA

Incident 1200: L'IA méta sur Instagram aurait facilité des jeux de rôle sur le suicide et les troubles alimentaires avec des comptes d'adolescents

Traduit par IA
Description:
Traduit par IA
Des tests menés par Common Sense Media et des cliniciens de Stanford auraient révélé que le chatbot IA de Meta, intégré à Instagram et Facebook, produisait des réponses dangereuses sur les comptes d'adolescents. Dans certaines conversations, le robot aurait planifié des suicides (« Veux-tu le faire ensemble ? »), encouragé des troubles alimentaires et conservé des « souvenirs » dangereux renforçant les pensées désordonnées.
Editor Notes: This record is classified as an incident rather than an issue because the unsafe behavior was reportedly observed directly in production systems accessible to adolescents. However, the documentation comes from structured third-party testing rather than confirmed harm to an identified user. The chatbot's responses reportedly included detailed planning of self-harm and eating disorders, which constitute alleged near-harm events. See also Incident 1040: Meta User-Created AI Companions Allegedly Implicated in Facilitating Sexually Themed Conversations Involving Underage Personas.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique

Entités

Voir toutes les entités
Présumé : Un système d'IA développé et mis en œuvre par Meta , Meta AI , Instagram et Facebook, a endommagé minors , Meta AI users , Instagram users , Facebook users et Adolescents.
Systèmes d'IA présumés impliqués: Meta AI , Instagram et Facebook

Statistiques d'incidents

ID
1200
Nombre de rapports
1
Date de l'incident
2025-08-28
Editeurs
Daniel Atherton

Rapports d'incidents

Chronologie du rapport

+1
Le chatbot d'Instagram a aidé les comptes d'adolescents à planifier leur suicide — et les parents ne peuvent pas le désactiver
Loading...
Le chatbot d'Instagram a aidé les comptes d'adolescents à planifier leur suicide — et les parents ne peuvent pas le désactiver

Le chatbot d'Instagram a aidé les comptes d'adolescents à planifier leur suicide — et les parents ne peuvent pas le désactiver

washingtonpost.com

Loading...
Le chatbot d'Instagram a aidé les comptes d'adolescents à planifier leur suicide — et les parents ne peuvent pas le désactiver
washingtonpost.com · 2025
Traduit par IA

Avertissement : Cet article inclut des descriptions d’automutilation.

Le chatbot Meta AI intégré à Instagram et Facebook peut accompagner les comptes adolescents sur le suicide, l’automutilation et les troubles alimentaires, selon une nouve…

Variantes

Une "Variante" est un incident de l'IA similaire à un cas connu—il a les mêmes causes, les mêmes dommages et le même système intelligent. Plutôt que de l'énumérer séparément, nous l'incluons sous le premier incident signalé. Contrairement aux autres incidents, les variantes n'ont pas besoin d'avoir été signalées en dehors de la base de données des incidents. En savoir plus sur le document de recherche.
Vous avez vu quelque chose de similaire ?

Incidents similaires

Selected by our editors

Meta User-Created AI Companions Allegedly Implicated in Facilitating Sexually Themed Conversations Involving Underage Personas

Apr 2025 · 2 rapports
Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

Loading...
Google’s YouTube Kids App Presents Inappropriate Content

Google’s YouTube Kids App Presents Inappropriate Content

May 2015 · 13 rapports
Loading...
TikTok’s “For You” Algorithm Exposed Young Users to Pro-Eating Disorder Content

TikTok’s “For You” Algorithm Exposed Young Users to Pro-Eating Disorder Content

Jul 2019 · 3 rapports
Loading...
Tiny Changes Let False Claims About COVID-19, Voting Evade Facebook Fact Checks

Tiny Changes Let False Claims About COVID-19, Voting Evade Facebook Fact Checks

Oct 2020 · 1 rapport
Incident précédentProchain incident

Incidents similaires

Selected by our editors

Meta User-Created AI Companions Allegedly Implicated in Facilitating Sexually Themed Conversations Involving Underage Personas

Apr 2025 · 2 rapports
Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

Loading...
Google’s YouTube Kids App Presents Inappropriate Content

Google’s YouTube Kids App Presents Inappropriate Content

May 2015 · 13 rapports
Loading...
TikTok’s “For You” Algorithm Exposed Young Users to Pro-Eating Disorder Content

TikTok’s “For You” Algorithm Exposed Young Users to Pro-Eating Disorder Content

Jul 2019 · 3 rapports
Loading...
Tiny Changes Let False Claims About COVID-19, Voting Evade Facebook Fact Checks

Tiny Changes Let False Claims About COVID-19, Voting Evade Facebook Fact Checks

Oct 2020 · 1 rapport

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • a98cb21