Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Traducido por IA

Incidente 1043: Moderadores de Reddit denuncian un estudio de inteligencia artificial no autorizado que implica identidades inventadas por supuestos investigadores de la Universidad de Zúrich.

Descripción:
Traducido por IA
Investigadores supuestamente afiliados a la Universidad de Zúrich desplegaron comentarios no revelados generados por IA en la plataforma r/ChangeMyView de Reddit para estudiar la persuasión mediante la supuesta invención de identidades, como las de sobrevivientes de agresión sexual y minorías raciales. El experimento, según se informa, implicó la elaboración de perfiles demográficos no autorizados, manipulación emocional e infracciones de las normas del subreddit y de la plataforma. Los investigadores supuestamente se desviaron del protocolo aprobado sin una nueva supervisión ética.
Editor Notes: Timeline notes: Reports indicate that the unauthorized AI persuasion experiment on Reddit's r/ChangeMyView subreddit was conducted over approximately four months. Although exact start and end dates have not been confirmed, evidence suggests that the activity likely took place between late 2024 and early 2025, concluding shortly before the moderators publicly disclosed the experiment in late April 2025. The researchers reportedly made approximately 1,783 AI-generated comments during this period. The duration and scale of the operation are included here to provide additional context but remain based on external reporting and moderator disclosures.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial

Entidades

Ver todas las entidades
Alleged: Unspecified large language model developers developed an AI system deployed by University of Zurich researchers, which harmed Reddit users on r/ChangeMyView subreddit.
Sistema de IA presuntamente implicado: Unspecified large language models

Estadísticas de incidentes

ID
1043
Cantidad de informes
6
Fecha del Incidente
2025-04-26
Editores
Daniel Atherton

Informes del Incidente

Cronología de Informes

+1
META: Experimento no autorizado sobre CMV que involucra comentarios generados por IA
Investigadores realizaron en secreto un experimento masivo y no autorizado de persuasión con IA en usuarios de RedditExperimento secreto de inteligencia artificial en Reddit acusado de violaciones éticas+1
Un argumento a favor de experimentos de investigación éticos y transparentes en interés público
La peor violación ética de la investigación en internet que he visto
META: Experimento no autorizado sobre CMV que involucra comentarios generados por IA

META: Experimento no autorizado sobre CMV que involucra comentarios generados por IA

reddit.com

Investigadores realizaron en secreto un experimento masivo y no autorizado de persuasión con IA en usuarios de Reddit

Investigadores realizaron en secreto un experimento masivo y no autorizado de persuasión con IA en usuarios de Reddit

404media.co

Experimento secreto de inteligencia artificial en Reddit acusado de violaciones éticas

Experimento secreto de inteligencia artificial en Reddit acusado de violaciones éticas

theweek.com

Un argumento a favor de experimentos de investigación éticos y transparentes en interés público

Un argumento a favor de experimentos de investigación éticos y transparentes en interés público

independenttechresearch.org

Reddit critica duramente un «experimento poco ético» que implementó bots secretos de IA en un foro.

Reddit critica duramente un «experimento poco ético» que implementó bots secretos de IA en un foro.

washingtonpost.com

La peor violación ética de la investigación en internet que he visto

La peor violación ética de la investigación en internet que he visto

theatlantic.com

META: Experimento no autorizado sobre CMV que involucra comentarios generados por IA
reddit.com · 2025
Traducido por IA

El equipo de moderación de CMV debe informar a la comunidad de CMV sobre un experimento no autorizado realizado por investigadores de la Universidad de Zúrich con usuarios de CMV. Este experimento implementó comentarios generados por IA par…

Investigadores realizaron en secreto un experimento masivo y no autorizado de persuasión con IA en usuarios de Reddit
404media.co · 2025
Traducido por IA

Un equipo de investigadores, que afirma pertenecer a la Universidad de Zúrich, realizó un experimento a gran escala sin autorización. En él, desplegaron en secreto bots con inteligencia artificial en un popular subreddit de debate llamado r…

Experimento secreto de inteligencia artificial en Reddit acusado de violaciones éticas
theweek.com · 2025
Traducido por IA

Reddit respondió el 28 de abril a la noticia de que un grupo de investigadores había realizado un experimento secreto con chatbots de inteligencia artificial en uno de sus foros más populares. Las acciones de los participantes en el experim…

Un argumento a favor de experimentos de investigación éticos y transparentes en interés público
independenttechresearch.org · 2025
Traducido por IA

El 26 de abril, los moderadores de r/ChangeMyView, una comunidad de Reddit dedicada a comprender las perspectivas de otros, revelaron que investigadores académicos de la Universidad de Zúrich llevaron a cabo un experimento de IA a gran esca…

Reddit critica duramente un «experimento poco ético» que implementó bots secretos de IA en un foro.
washingtonpost.com · 2025
Traducido por IA

Reddit alerta sobre lo que denominó un "experimento inapropiado y altamente poco ético" realizado por un grupo de investigadores de la Universidad de Zúrich. Estos investigadores desplegaron en secreto bots de IA en un foro popular para est…

La peor violación ética de la investigación en internet que he visto
theatlantic.com · 2025
Traducido por IA

Cuando Reddit se rebautizó como "el corazón de internet" hace un par de años, el eslogan pretendía evocar el carácter orgánico del sitio. En una era de redes sociales dominadas por algoritmos, Reddit se enorgullecía de estar gestionado por …

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

DALL-E Mini Reportedly Reinforced or Exacerbated Societal Biases in Its Outputs as Gender and Racial Stereotypes

That AI Image Generator Is Spitting Out Some Awfully Racist Stuff

Jun 2022 · 4 informes
YouTube's AI Mistakenly Banned Chess Channel over Chess Language Misinterpretation

YouTube algorithm accidentally blocks 'black v white' CHESS strategy

Jun 2020 · 6 informes
TikTok’s “For You” Algorithm Exposed Young Users to Pro-Eating Disorder Content

TikTok Is Filled With Pro-Eating Disorder Content, Despite Its Own Rules

Jul 2019 · 3 informes
Incidente AnteriorSiguiente Incidente

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

DALL-E Mini Reportedly Reinforced or Exacerbated Societal Biases in Its Outputs as Gender and Racial Stereotypes

That AI Image Generator Is Spitting Out Some Awfully Racist Stuff

Jun 2022 · 4 informes
YouTube's AI Mistakenly Banned Chess Channel over Chess Language Misinterpretation

YouTube algorithm accidentally blocks 'black v white' CHESS strategy

Jun 2020 · 6 informes
TikTok’s “For You” Algorithm Exposed Young Users to Pro-Eating Disorder Content

TikTok Is Filled With Pro-Eating Disorder Content, Despite Its Own Rules

Jul 2019 · 3 informes

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 300d90c