Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 2519

Incidentes Asociados

Incidente 4531 Reporte
Twitter's AI Moderation Tool Misidentified Rockets as Pornography

Loading...
Twitter sigue confundiendo cohetes con contenido 'íntimo' debido a la dependencia de la plataforma en herramientas de aprendizaje automático, según un informe
businessinsider.com · 2023

Un exempleado de Twitter dijo que la compañía de Elon Musk puede confundir fotos de cohetes con contenido íntimo debido a la dependencia de la plataforma de herramientas de aprendizaje automático, según [Quartz](https://qz.com/elon-musks-twitter-thinks-rockets-are -contenido-intimo-1849948941).

La confusión dio lugar a que varias cuentas de Twitter publicaran sobre lanzamientos de cohetes suspendidos de la plataforma.

Quartz entrevistó a un ex empleado anónimo que solía trabajar en los sistemas de moderación de contenido de Twitter. Le dijeron al medio que se sabía que las herramientas identificaban erróneamente imágenes apropiadas para contenido pornográfico. Esto podría incluir, por ejemplo, una foto de pedicura que contenga muchos píxeles de color carne.

"Puedes imaginar cómo se podría identificar erróneamente un cohete", dijo el ex trabajador a Quartz.

Una cuenta de Twitter se puede suspender cuando las herramientas tienen un 95% de certeza de que la publicación ha violado las reglas de la plataforma, agregó el ex moderador de contenido de Twitter.

Dijeron en el informe que si Twitter quisiera depender menos de los moderadores humanos, podría reducir los umbrales de precisión de las herramientas de aprendizaje automático, que distinguen el contenido confidencial, sin marcar cada publicación como inapropiada.

"La desventaja de hacerlo es un aumento en la tasa de errores; en esencia, una censura más incorrecta", dijo el exempleado a Quartz.

Desde que Musk adquirió Twitter a finales de octubre, la empresa [despidió](https://www.businessinsider.com/elon-musks-twitter-identifies-thousands-who-will-be-laid-off-2022-11?utm_medium =referral&utm_source=yahoo.com) alrededor de la mitad de su fuerza laboral, incluido parte del personal a cargo de [moderar contenido](https://www.businessinsider.com/election-integrity-is-top-priority-for-twitter-pese- layoffs-exec-2022-11) en el sitio.

Vuelo espacial ahora junto con [Michael Baylor](https://twitter.com/NASASpaceflight/status/1610473148448661505?s= 20&t=Xe72ItZq2M_Ky3_Sjd9XHQ) que transmite en vivo los lanzamientos de NASASpaceflight, y Starbase Watcher, que rastrea la actividad en las instalaciones de SpaceX en Texas, estaban todos bloqueados de sus cuentas después de publicar contenido sobre un lanzamiento de SpaceX el martes.

El fotógrafo de vuelos espaciales John Kraus dijo su cuenta también fue suspendida después de compartir un video del lanzamiento de Artemis I de la NASA. Desde entonces, las cuatro cuentas se han desbloqueado.

Según una captura de pantalla vista por Insider, Twitter marcó el tweet de Spaceflight Now como "violando nuestros normas contra la publicación o el intercambio de medios íntimos de alguien producidos o distribuidos de forma privada sin su consentimiento expreso".

De manera similar, Starbase Watcher dijo su cuenta fue suspendida porque Twitter afirmó que uno de sus tweets contenía contenido íntimo.

En respuesta a un tuit del colega de Baylor sobre la suspensión de su cuenta, Musk respondió "¡Parece que nuestro reconocimiento de imágenes necesita algo de trabajo!"

La confusión no solo sucedió bajo el liderazgo de Musk. Anteriormente, una [astrónomo fue bloqueada de su cuenta de Twitter] (https://www.businessinsider.com/astronomer-was-locked-out-of-twitter-over-intimate-meteor-video-2022-11) durante meses después de que un video de un meteorito que ella publicó fuera marcado como "contenido íntimo", según [BBC] (https://www.bbc.co.uk/news/technology-63626769).

Twitter no respondió de inmediato a la solicitud de comentarios de Insider realizada fuera del horario laboral normal de EE. UU.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd