Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 1972

Incidentes Asociados

Incidente 2823 Reportes
Facebook’s Algorithm Mistook an Advertisement of Onions as Sexual Suggestive Content

Loading...
El algoritmo de desnudez bloqueó por error las imágenes de cebolla de la compañía, admite Facebook, dice que se restaurarán los anuncios
nationalpost.com · 2020

Las cebollas más sexualmente provocativas de Canadá fueron retiradas de Facebook después de que el gigante de las redes sociales le dijera a una empresa de productos agrícolas que sus imágenes iban en contra de las pautas publicitarias, informó CBC.

Ahora, Facebook ha admitido que el anuncio fue recogido por un algoritmo erróneo y será restaurado.

El anuncio ofensivo, para las semillas de cebolla Walla Walla de Gaze Seed Company, muestra una imagen de un puñado de cebollas en una canasta de mimbre. Según un aviso de Facebook enviado a la empresa en los últimos días, las cebollas se colocaron de una “manera sexualmente sugerente”.

“Supongo que algo sobre las dos formas redondas podría malinterpretarse como senos o algo así, desnudo de alguna manera”, [Jackson McLean, gerente de Gaze Seed Company, le dijo a CBC.] (https://www.cbc.ca /noticias/canada/terranova-labrador/cebollas-demasiado-sexy-para-facebook-1.5750881)

Gaze es un negocio de St. John que vende semillas, tierra y otros suministros. La empresa paga a Facebook por la publicidad y se estaba preparando para publicar sus anuncios de cebollas de primavera cuando se retiró la imagen.

“Simplemente pensé que era divertido”, dijo McLean. “Tendrías que tener una imaginación bastante activa para ver eso y sacar algo sexual de ello”.

Son solo cebollas

Irónicamente, el error generó una mejor publicidad que la que podría tener el anuncio real. En su página de Facebook, la compañía de semillas se divirtió [creando maquetas de lo que Facebook pensó que estaba viendo] (https://www.facebook.com/TheSeedCompanyNL/photos/p.2683192951943598/2683192951943598/?type=3).

McLean sintió que la decisión probablemente fue automatizada, lo cual fue una buena suposición. Dijo que su compañía buscaba obtener ojos humanos reales en la foto, para que pudieran darse cuenta de que no había nada sexual involucrado. “Son solo cebollas”, dijo.

Y en un correo electrónico al National Post el miércoles, Facebook ahora ha explicado que, de hecho, un algoritmo tuvo la culpa. Al igual que McLean, el gigante tecnológico vio el lado divertido.

“Usamos tecnología automatizada para mantener la desnudez fuera de nuestras aplicaciones, pero a veces no distingue una cebolla walla walla de, bueno, ya sabes”, dijo Meg Sinclair, directora de comunicaciones de Facebook Canadá. "Restauramos el anuncio y lamentamos los problemas del negocio".

De abril a junio de 2020, los algoritmos de Facebook eliminaron 35,7 millones de piezas de contenido que violaban las políticas de actividad sexual y desnudez de adultos.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd