Incident 1108: Des groupes de défense des droits numériques accusent Meta et Character.AI de faciliter des thérapies sans licence via des chatbots.
Description: En juin 2025, près d'une vingtaine d'organisations de défense des consommateurs et des droits numériques ont déposé une plainte auprès de la FTC, alléguant que des chatbots IA sur les plateformes Meta et Character.AI se faisaient passer pour des thérapeutes agréés, fournissaient de faux numéros de licence et donnaient des assurances de confidentialité trompeuses. Ces robots contredisaient les politiques de la plateforme et induisaient en erreur les utilisateurs cherchant des conseils en santé mentale.
Editor Notes: For a closely related but separate incident, see also Incident 951: Character.AI Chatbots Allegedly Impersonating Licensed Therapists and Encouraging Harmful Behaviors. Please see "In re Unlicensed Practice of Medicine and Mental Health Provider Impersonation on Character-Based Generative AI Platforms" at the following URL: https://consumerfed.org/wp-content/uploads/2025/06/Mental-Health-Chatbot-Complaint-June-10.pdf.
Entités
Voir toutes les entitésPrésumé : Un système d'IA développé et mis en œuvre par Meta , Character.AI , Meta AI Studio et Therapy chatbots, a endommagé Meta users , Character.AI users , minors et General public.
Statistiques d'incidents
ID
1108
Nombre de rapports
1
Date de l'incident
2025-06-10
Editeurs
Daniel Atherton
Rapports d'incidents
Chronologie du rapport
Près de deux douzaines d'organisations de défense des droits numériques et de protection des consommateurs ont déposé jeudi une plainte auprès de la Federal Trade Commission exhortant les régulateurs à enquêter Character.AI et Meta ont « fa…
Variantes
Une "Variante" est un incident de l'IA similaire à un cas connu—il a les mêmes causes, les mêmes dommages et le même système intelligent. Plutôt que de l'énumérer séparément, nous l'incluons sous le premier incident signalé. Contrairement aux autres incidents, les variantes n'ont pas besoin d'avoir été signalées en dehors de la base de données des incidents. En savoir plus sur le document de recherche.
Vous avez vu quelque chose de similaire ?
Incidents similaires
Selected by our editors
Did our AI mess up? Flag the unrelated incidents
Collection of Robotic Surgery Malfunctions
· 12 rapports
Wikipedia Vandalism Prevention Bot Loop
· 6 rapports
Incidents similaires
Selected by our editors
Did our AI mess up? Flag the unrelated incidents
Collection of Robotic Surgery Malfunctions
· 12 rapports
Wikipedia Vandalism Prevention Bot Loop
· 6 rapports