Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 1388

Incidentes Asociados

Incidente 10572 Reportes
'Jewish Baby Strollers' Provided Antisemitic Google Images, Allegedly Resulting from Hate Speech Campaign

Loading...
Algoritmo de imagen de cochecito de bebé judío
timebulletin.com · 2020

El movimiento antisemita ha ido en aumento coordinado por un grupo en línea llamado 'raid'. Operan manipulando los resultados del motor de búsqueda de imágenes de Google al adjuntar imágenes abusivas etiquetadas con palabras clave inocentes que, a su vez, muestran las imágenes en los resultados de búsqueda.

Por ejemplo, la búsqueda de "Cochecito de bebé judío" revela hornos portátiles sobre una rueda con la inscripción "Hecho en Alemania", que simboliza a los judíos gaseados y quemados en el holocausto.

Según Brooke Goldstein, abogada de Nueva York y activista de los derechos civiles, las ilustraciones que aparecen en el motor de búsqueda de imágenes de Google se utilizan para difundir el odio y la discriminación. “Google debe adoptar un enfoque más proactivo para penalizar a los sitios web que distribuyen dicho contenido”, dice Goldstein.

Google afirma que la situación surge debido a lo que ellos llaman "vacíos de información". Israel Figa afirma que el algoritmo de búsqueda de imágenes no puede descifrar imágenes, por lo que se basa en etiquetas o texto adjunto para describir el contenido ilustrado.

"Google revela los resultados del motor de búsqueda de imágenes de un horno portátil sobre una rueda, etiquetado con las palabras 'Cochecito de bebé judío', explica Israel Figa, "Google no tenía forma de saberlo porque las imágenes se mezclaron de una manera que Google no podía notarlos”. La compañía afirmó que están trabajando en una solución integral, pero aún no han encontrado una alternativa que pueda prevenir perfectamente futuros incidentes. Por otro lado, los investigadores creen que este incidente está lejos de ser un accidente, ya que especulan que podría ser una campaña coordinada por extremistas para presentar las imágenes dadas a través de sitios web maliciosos.

Según el Network Contagion Institute, el organismo que investiga la difusión del discurso de odio en línea, esta no es la primera vez que aparecen resultados de búsqueda antisemitas en los resultados de búsqueda de cochecitos de bebé. Las imágenes de hornos de gas portátiles etiquetados con "cochecito de bebé judío" comenzaron a aparecer en la búsqueda de imágenes de Google en 2017.

Su objetivo principal es transmitir el mensaje de que los judíos, como grupo, son malvados. De la última declaración hecha por Google, afirmaron que las imágenes del fenómeno del cochecito de bebé judío no están alojadas en sus servidores de alojamiento web y se refirieron al contenido como "perturbador". Google pareció empático ya que afirmó que comparten las preocupaciones.

Un incidente similar afirma que los sitios web intentan reemplazar los términos abusivos con palabras como "Skype" o incluso "Google" para permitirles anular los filtros de búsqueda de Google.

El grupo EndJewHatred, un movimiento activista judío por los derechos civiles, ha anunciado su determinación de eliminar de Internet las imágenes del "cochecito de bebé judío".

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd