Problème 5112

Incidents associés

Incident 10436 Rapports
Reddit Moderators Report Unauthorized AI Study Involving Fabricated Identities by Purported University of Zurich Researchers

Loading...
Plaidoyer pour des expériences de recherche éthiques et transparentes dans l'intérêt public
independenttechresearch.org · 2025

Le 26 avril, les modérateurs de r/ChangeMyView, une communauté Reddit dédiée à la compréhension des points de vue d'autrui, ont révélé que des chercheurs universitaires de l'Université de Zurich avaient mené une expérience d'IA à grande échelle et non autorisée au sein de leur communauté. Les chercheurs avaient utilisé des robots d'IA pour se faire passer secrètement pour des personnes dans le cadre d'expériences de persuasion.

Point crucial : cette expérience a été menée à l'insu de la communauté Reddit et sans son consentement, et les robots n'étaient pas qualifiés d'IA. Les utilisateurs de Reddit ont été exposés à leur insu à du contenu parfois trompeur généré par l'IA et conçu pour façonner leurs opinions, ce qui a soulevé d'importantes préoccupations en matière d'éthique et de transparence.

Lorsque les chercheurs ont partagé les résultats préliminaires avec la communauté, les modérateurs de r/ChangeMyView ont contacté le comité d'éthique des chercheurs pour faire part de leurs inquiétudes. Informés que le projet respectait les normes éthiques institutionnelles, les modérateurs ont divulgué l'étude à leur communauté choquée et indignée. Reddit a banni les comptes associés et publié une déclaration condamnant l'activité.

Cette affaire a suscité de vives critiques de la part de la communauté de la recherche et de l'éthique technologiques. Elle met en lumière la croyance erronée de certains chercheurs selon laquelle l'intérêt public justifie d'ignorer leurs responsabilités éthiques envers les participants et le public.

Appel à l'action sur l'éthique des expériences numériques

Il ne fait aucun doute que cette expérience était contraire à l'éthique. Les chercheurs ont failli à leur devoir envers les personnes potentiellement manipulées par l'IA ; envers les groupes marginalisés que l'IA a usurpés en les dénaturant ; envers la communauté r/ChangeMyView, en compromettant sa capacité à servir de forum public pour le débat civil ; et envers la communauté scientifique au sens large, en sapant la confiance du public dans la science.

Les chercheurs doivent défendre des pratiques éthiques, car les manquements à l'éthique servent souvent de prétexte pour restreindre les travaux d'intérêt public. Les scandales précédents, tels que l'étude sur la contagion émotionnelle de Facebook et les travaux de Cambridge Analytica, ont suscité des craintes concernant la manipulation par l'expérimentation. En réponse, les entreprises ont évoqué leurs craintes concernant la recherche contraire à l'éthique et la nécessité de protéger la vie privée des utilisateurs lorsqu'elles limitent la recherche d'intérêt public et menacent les scientifiques, malgré leurs propres expériences sur leurs utilisateurs. Nous pensons qu'il est probable que de nombreuses autres expériences d'IA générative contraires à l'éthique et perturbatrices soient actuellement menées par des acteurs industriels encore moins surveillés que les scientifiques. En tant que forum public où les utilisateurs participent à des discussions approfondies sur des millions de sujets, Reddit est depuis longtemps une source importante de recherche d'intérêt public. Les communautés Reddit collaborent depuis longtemps avec des scientifiques dans le cadre de collaborations mutuellement bénéfiques qui améliorent la compréhension de notre monde. Afin de protéger la diversité et le dynamisme des communautés de Reddit (même les plus controversées), il est impératif que les chercheurs pensent à l'humain en anticipant les conséquences néfastes de leurs recherches sur les individus, les groupes et les communautés.

En tant que membres de la Coalition, nous appelons aux actions suivantes :

  1. Nous appelons les comités d'éthique, les comités de rédaction des revues et les pairs évaluateurs à redoubler de vigilance pour respecter l'éthique, à une époque où la recherche en IA générative est encore relativement récente. Les nouvelles technologies ne priment pas sur les principes éthiques fondamentaux. Si vous avez des questions ou des doutes, nous avons compilé une liste de ressources ci-dessous. Nous vous invitons également à contacter ceux d'entre nous qui travaillent à l'avant-garde de la technologie et de l'éthique de la recherche : vous n'êtes pas obligé d'agir seul.
  2. Nous appelons les régulateurs et l'industrie technologique à soutenir la transparence des expériences numériques menées sur le public. Chacun mérite de savoir comment et quand nos vies ont été systématiquement influencées, que les expériences soient menées par des scientifiques, des entreprises ou une personne quelconque disposant d'un modèle linguistique étendu. Les dispositions relatives à la transparence dans des lois comme la loi du Minnesota interdisant la manipulation des médias sociaux (https://www.techpolicy.press/experiments-are-the-best-kind-of-transparency/) pourraient, plus généralement, contribuer à protéger le public contre la recherche contraire à l'éthique tout en soutenant une science bénéfique.

À propos de la CITR

La Coalition pour la recherche technologique indépendante est un réseau mondial qui œuvre pour que la recherche technologique serve le bien public. La mission de la Coalition est de promouvoir, défendre et soutenir le droit d'étudier de manière éthique l'impact de la technologie sur la société.

Pour en savoir plus sur la Coalition et son travail, consultez notre document fondateur et notre manifeste.

Ressources des membres de la Coalition concernant les pratiques de recherche éthiques sur Reddit :

Lire la source