Incidente 1057: "Cochecitos de bebé judíos" proporcionaron imágenes antisemitas de Google, supuestamente resultado de una campaña de incitación al odio.
Descripción: La búsqueda de imágenes de Google de "cochecitos de bebé judíos" arrojó resultados ofensivos y antisemitas, supuestamente resultado de una campaña coordinada de discurso de odio que involucró a actores maliciosos en 4chan.
Entidades
Ver todas las entidadesPresunto: un sistema de IA desarrollado e implementado por Google, perjudicó a Jewish people y Google Images users.
Estadísticas de incidentes
ID
1057
Cantidad de informes
2
Fecha del Incidente
2017-08-15
Editores
Sean McGregor, Khoa Lam
Informes del Incidente
Cronología de Informes
(JTA) — Los resultados de Google son impactantes: haga una búsqueda de imágenes de "cochecitos de bebé judíos" y verá fila tras fila de hornos portátiles, una alusión ofensiva a la Holocausto.
Google dice que está investigando los resultado…
El movimiento antisemita ha ido en aumento coordinado por un grupo en línea llamado 'raid'. Operan manipulando los resultados del motor de búsqueda de imágenes de Google al adjuntar imágenes abusivas etiquetadas con palabras clave inocentes…
Variantes
Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.
¿Has visto algo similar?
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents