Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Traduit par IA

Incident 1043: Les modérateurs de Reddit signalent une étude d'IA non autorisée impliquant des identités fabriquées par de prétendus chercheurs de l'Université de Zurich

Description:
Traduit par IA
Des chercheurs prétendument affiliés à l'Université de Zurich auraient déployé des commentaires non divulgués générés par l'IA sur la plateforme r/ChangeMyView de Reddit afin d'étudier la persuasion en falsifiant prétendument des identités telles que celles de victimes d'agressions sexuelles et de minorités raciales. L'expérience aurait impliqué un profilage démographique non autorisé, des manipulations émotionnelles et des violations des règles du subreddit et de la plateforme. Les chercheurs auraient dérogé à leur protocole approuvé sans nouvelle surveillance éthique.
Editor Notes: Timeline notes: Reports indicate that the unauthorized AI persuasion experiment on Reddit's r/ChangeMyView subreddit was conducted over approximately four months. Although exact start and end dates have not been confirmed, evidence suggests that the activity likely took place between late 2024 and early 2025, concluding shortly before the moderators publicly disclosed the experiment in late April 2025. The researchers reportedly made approximately 1,783 AI-generated comments during this period. The duration and scale of the operation are included here to provide additional context but remain based on external reporting and moderator disclosures.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique

Entités

Voir toutes les entités
Alleged: Unspecified large language model developers developed an AI system deployed by University of Zurich researchers, which harmed Reddit users on r/ChangeMyView subreddit.
Système d'IA présumé impliqué: Unspecified large language models

Statistiques d'incidents

ID
1043
Nombre de rapports
6
Date de l'incident
2025-04-26
Editeurs
Daniel Atherton

Rapports d'incidents

Chronologie du rapport

+1
META : Expérience non autorisée sur CMV impliquant des commentaires générés par l'IA
Des chercheurs ont secrètement mené une expérience massive et non autorisée de persuasion par IA sur les utilisateurs de RedditUne expérience secrète d'IA sur Reddit accusée de violations éthiques+1
Plaidoyer pour des expériences de recherche éthiques et transparentes dans l'intérêt public
« La pire violation de l'éthique de la recherche sur Internet que j'aie jamais vue »
META : Expérience non autorisée sur CMV impliquant des commentaires générés par l'IA

META : Expérience non autorisée sur CMV impliquant des commentaires générés par l'IA

reddit.com

Des chercheurs ont secrètement mené une expérience massive et non autorisée de persuasion par IA sur les utilisateurs de Reddit

Des chercheurs ont secrètement mené une expérience massive et non autorisée de persuasion par IA sur les utilisateurs de Reddit

404media.co

Une expérience secrète d'IA sur Reddit accusée de violations éthiques

Une expérience secrète d'IA sur Reddit accusée de violations éthiques

theweek.com

Plaidoyer pour des expériences de recherche éthiques et transparentes dans l'intérêt public

Plaidoyer pour des expériences de recherche éthiques et transparentes dans l'intérêt public

independenttechresearch.org

Reddit dénonce une « expérience contraire à l'éthique » qui a déployé des robots d'IA secrets dans un forum

Reddit dénonce une « expérience contraire à l'éthique » qui a déployé des robots d'IA secrets dans un forum

washingtonpost.com

« La pire violation de l'éthique de la recherche sur Internet que j'aie jamais vue »

« La pire violation de l'éthique de la recherche sur Internet que j'aie jamais vue »

theatlantic.com

META : Expérience non autorisée sur CMV impliquant des commentaires générés par l'IA
reddit.com · 2025
Traduit par IA

L'équipe de modération CMV doit informer la communauté CMV d'une expérience non autorisée menée par des chercheurs de l'Université de Zurich sur des utilisateurs de CMV. Cette expérience a utilisé des commentaires générés par l'IA afin d'ét…

Des chercheurs ont secrètement mené une expérience massive et non autorisée de persuasion par IA sur les utilisateurs de Reddit
404media.co · 2025
Traduit par IA

Une équipe de chercheurs, se disant issus de l'Université de Zurich, a mené une expérience « non autorisée » à grande échelle. Ils ont déployé secrètement des robots dotés d'IA dans un subreddit de débat populaire appelé r/changemyview. L'o…

Une expérience secrète d'IA sur Reddit accusée de violations éthiques
theweek.com · 2025
Traduit par IA

Reddit a réagi le 28 avril à l'annonce qu'un groupe de chercheurs avait mené une expérience secrète utilisant des chatbots d'intelligence artificielle sur l'un de ses forums les plus populaires. Les actions des personnes impliquées dans cet…

Plaidoyer pour des expériences de recherche éthiques et transparentes dans l'intérêt public
independenttechresearch.org · 2025
Traduit par IA

Le 26 avril, les modérateurs de r/ChangeMyView, une communauté Reddit dédiée à la compréhension des points de vue d'autrui, ont révélé que des chercheurs universitaires de l'Université de Zurich avaient mené une expérience d'IA à grande éch…

Reddit dénonce une « expérience contraire à l'éthique » qui a déployé des robots d'IA secrets dans un forum
washingtonpost.com · 2025
Traduit par IA

Reddit tire la sonnette d'alarme concernant ce qu'il a qualifié d'« expérience inappropriée et hautement contraire à l'éthique » menée par un groupe de chercheurs de l'Université de Zurich, qui ont secrètement déployé des robots d'IA sur un…

« La pire violation de l'éthique de la recherche sur Internet que j'aie jamais vue »
theatlantic.com · 2025
Traduit par IA

Lorsque Reddit s'est rebaptisé « le cœur d'Internet » il y a quelques années, le slogan visait à évoquer le caractère organique du site. À l'ère des réseaux sociaux dominés par les algorithmes, Reddit s'enorgueillissait d'être animé par une…

Variantes

Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

DALL-E Mini Reportedly Reinforced or Exacerbated Societal Biases in Its Outputs as Gender and Racial Stereotypes

That AI Image Generator Is Spitting Out Some Awfully Racist Stuff

Jun 2022 · 4 rapports
YouTube's AI Mistakenly Banned Chess Channel over Chess Language Misinterpretation

YouTube algorithm accidentally blocks 'black v white' CHESS strategy

Jun 2020 · 6 rapports
TikTok’s “For You” Algorithm Exposed Young Users to Pro-Eating Disorder Content

TikTok Is Filled With Pro-Eating Disorder Content, Despite Its Own Rules

Jul 2019 · 3 rapports
Incident précédentProchain incident

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

DALL-E Mini Reportedly Reinforced or Exacerbated Societal Biases in Its Outputs as Gender and Racial Stereotypes

That AI Image Generator Is Spitting Out Some Awfully Racist Stuff

Jun 2022 · 4 rapports
YouTube's AI Mistakenly Banned Chess Channel over Chess Language Misinterpretation

YouTube algorithm accidentally blocks 'black v white' CHESS strategy

Jun 2020 · 6 rapports
TikTok’s “For You” Algorithm Exposed Young Users to Pro-Eating Disorder Content

TikTok Is Filled With Pro-Eating Disorder Content, Despite Its Own Rules

Jul 2019 · 3 rapports

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 300d90c