Registro de citas para el Incidente 16

Description: Google Photos image processing software mistakenly labelled a black couple as "gorillas."

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial
Presunto: un sistema de IA desarrollado e implementado por Google, perjudicó a Black people.

Estadísticas de incidentes

ID
16
Cantidad de informes
24
Fecha del Incidente
2015-06-03
Editores
Sean McGregor, Kevin Paeth

Clasificaciones de la Taxonomía CSETv0

Detalles de la Taxonomía

Full Description

Google's Google Photo image processing software "mistakenly labelled a black couple as being 'gorillas.'" The error occurred in the software's image processing that attempts to assign themes to groups of similar photos. In this example, the suggested themes were "Graduation, Bikes, Planes, Skyscrapers, Cars, and Gorillas."

Short Description

Google Photos image processing software mistakenly labelled a black couple as "gorillas."

Severity

Minor

Harm Distribution Basis

Race

Harm Type

Psychological harm, Harm to social or political systems

AI System Description

Google's Google Photo Image Processing

System Developer

Google

Sector of Deployment

Arts, entertainment and recreation

Relevant AI functions

Perception, Cognition

AI Techniques

image classification

AI Applications

image processing, facial recognition, image classification

Location

Global

Named Entities

Google, Google Photos

Technology Purveyor

Google

Beginning Date

2015-06-29

Ending Date

2015-06-29

Near Miss

Harm caused

Intent

Accident

Lives Lost

No

Data Inputs

photographs, images, multi-media content

Clasificaciones de la Taxonomía GMF

Detalles de la Taxonomía

Known AI Goal

Image Tagging

Known AI Technology

Face Detection, Convolutional Neural Network, Keyword Filtering

Known AI Technical Failure

Underfitting

Potential AI Technical Failure

Dataset Imbalance, Context Misidentification

Clasificaciones de la Taxonomía CSETv1

Detalles de la Taxonomía

Harm Distribution Basis

race

Sector of Deployment

information and communication

Google Fotos etiqueta a los negros como 'gorilas'
telegraph.co.uk · 2015

Google eliminó la etiqueta 'gorila' de su nueva aplicación Fotos, luego de que un usuario notó que había archivado varias fotos de él y su amigo negro en un álbum generado automáticamente llamado 'gorilas'.

El usuario afectado, el programad…

Google Photos etiqueta a las personas negras como 'gorilas' y pone las fotos en una carpeta especial
independent.co.uk · 2015

El algoritmo de reconocimiento de imágenes de Google está etiquetando fotos de personas negras como gorilas y colocándolas en un álbum especial.

El software de reconocimiento automático tiene como objetivo detectar las características de la…

Google se disculpa por el error racista de la aplicación Fotos
bbc.com · 2015

Derechos de autor de la imagen Twitter Image caption Alcine tuiteó a Google sobre el hecho de que su aplicación había clasificado erróneamente su foto.

Google dice que está "horrorizado" de que su nueva aplicación Fotos haya etiquetado erró…

Google Fotos identificó a dos negros como 'gorilas'
mashable.com · 2015

Google Photos utiliza un sofisticado software de reconocimiento facial para identificar no solo a las personas, sino también a categorías específicas de objetos y tipos de fotografías, como comida, gatos y horizontes.

Sin embargo, los progr…

Google Photos identificó a los negros como 'gorilas', pero el software racista no es nuevo
splinternews.com · 2015

Google ha sido criticado recientemente por un "fallo" objetivamente racista encontrado en su nueva aplicación Fotos para iOS y Android que identifica a las personas negras como "gorilas".

En teoría, se supone que Fotos actúa como un asisten…

Google pide disculpas por la etiqueta automática racista en la aplicación de fotos
theguardian.com · 2015

Google se disculpó después de que su nueva aplicación de fotos etiquetara a dos personas negras como "gorilas".

El servicio de fotografías, lanzado en mayo, etiqueta automáticamente las imágenes cargadas utilizando su propio software de int…

La aplicación Google Photos etiqueta al negro Jacky Alcine y a un amigo como GORILAS
dailymail.co.uk · 2015

Google se ha visto obligado a disculparse después de que su software de reconocimiento de imágenes etiquetara erróneamente fotografías de personas negras como gorilas.

La nueva aplicación Google Photos del gigante de Internet utiliza una fu…

Google se apresura a arreglar el software que presentaba insultos raciales
edition.cnn.com · 2015

Historia destaca Google Fotos etiquetó las fotos de un hombre afroamericano de él y un amigo como "gorilas"

Destacó el problema en Twitter, llamando la atención de un ingeniero de Google

(CNN) — Cuando Jacky Alcine miró su aplicación Google…

La aplicación Google Photo etiqueta a una pareja negra como 'gorilas'
news.sky.com · 2015

Google ha dicho que "realmente lo siente" después de que su software de reconocimiento de imágenes etiquetara las fotografías de una pareja negra como "gorilas".

La aplicación Google Photos, lanzada en mayo, utiliza una herramienta de etiqu…

Google etiqueta erróneamente a las personas negras como "gorilas", mostrando los límites de los algoritmos
blogs.wsj.com · 2015

Google es líder en inteligencia artificial y aprendizaje automático. Pero las computadoras de la compañía aún tienen mucho que aprender, a juzgar por un gran error de su aplicación Fotos esta semana.

La aplicación etiquetó a dos personas ne…

Google Photos etiquetó a los negros como 'gorilas'
usatoday.com · 2015

Google lanzó su aplicación Fotos en Google I/O en mayo. Aquí, los empleados esperan para registrar a los asistentes a la conferencia en el Moscone Center en San Francisco. (Foto: Jeff Chiu, Prensa Asociada)

SAN FRANCISCO — Google se disculp…

Google se disculpa después de que la aplicación etiquetara erróneamente a los negros como 'gorilas'
cbc.ca · 2015

Google ha sido objeto de críticas después de que la función de reconocimiento de imágenes en su aplicación Fotos identificara erróneamente a las personas con piel oscura como "gorilas".

Jacky Alciné, de la ciudad de Nueva York, tuiteó una f…

Google se disculpa por etiquetar mal fotos de afroamericanos
cbsnews.com · 2015

Google respondió rápidamente durante el fin de semana a un usuario después de que tuiteó que la nueva aplicación Google Photos había clasificado incorrectamente una foto de él y su amigo de una manera desafortunada y ofensiva.

Jacky Alciné,…

Google Photos etiqueta a dos afroamericanos como gorilas a través de un software de reconocimiento facial
forbes.com · 2015

Cuando Jacky Alcine, nativo de Brooklyn, inició sesión en Google Photos el domingo por la noche, se sorprendió al encontrar un álbum titulado "Gorillas", en el que el software de reconocimiento facial los clasificaba a él y a su amigo como …

Google Photos etiqueta erróneamente a las personas negras como 'gorilas'
bits.blogs.nytimes.com · 2015

Google continuó disculpándose el miércoles por una falla en Google Fotos, que se lanzó con gran fanfarria en mayo, que llevó a la nueva aplicación a etiquetar erróneamente las fotos de personas negras como "gorilas".

La compañía dijo que ha…

Google se disculpa por etiquetar fotos de personas negras como 'gorilas'
huffingtonpost.com · 2015

Cuando Jacky Alciné revisó su aplicación Google Photos a principios de esta semana, notó que etiquetaba fotos de él y un amigo, ambos negros, como "gorilas".

El programador de Brooklyn publicó sus capturas de pantalla en Twitter para denunc…

Por qué Google 'pensó' que esta mujer negra era un gorila
wnycstudios.org · 2015

Comparte esto en Twitter (Se abre en una ventana nueva)

Comparte esto en Facebook (Se abre en una ventana nueva)

Comparte esto en Twitter (Se abre en una ventana nueva)

Comparte esto en Facebook (Se abre en una nueva ventana)

Google tuvo un…

Google Photos todavía tiene un problema con los gorilas
technologyreview.com · 2018

En 2015, Google fue criticado cuando su sistema de reconocimiento de imágenes Photos etiquetó erróneamente a una mujer negra como un gorila, pero dos años después, el problema aún no se ha solucionado correctamente. En cambio, Google ha cen…

Cuando se trata de gorilas, Google Fotos permanece ciego
wired.com · 2018

En 2015, un desarrollador de software negro avergonzó a Google al twittear que el servicio de fotos de la compañía había etiquetado fotos de él con un amigo negro como "gorilas". Google se declaró "consternado y sinceramente arrepentido". U…

Google eliminó a los gorilas de la búsqueda para corregir el algoritmo racista
nymag.com · 2018

Han pasado más de dos años desde que el ingeniero Jacky Alciné llamó a Google Photos por etiquetar automáticamente a las personas negras en sus fotos como "gorilas". Después de ser llamado, Google se disculpó rápida y profusamente, prometie…

Dos años después, Google resuelve el problema del 'algoritmo racista' al eliminar la etiqueta 'gorila' del clasificador de imágenes
boingboing.net · 2018

Dos años después, Google resuelve el problema del 'algoritmo racista' al eliminar la etiqueta 'gorila' del clasificador de imágenes

En 2015, un desarrollador de software negro llamado Jacky Alciné reveló que el clasificador de imágenes util…

La solución de Google al racismo algorítmico accidental: prohibir a los gorilas
theguardian.com · 2018

La "acción inmediata" de Google sobre el etiquetado de personas negras como gorilas por parte de la IA fue simplemente bloquear la palabra, junto con chimpancé y mono, según sugieren los informes.

Este artículo tiene más de 1 año.

Este artí…

Google ha 'arreglado' su algoritmo que categorizaba a las personas como 'gorilas' con una solución no tan elegante
firstpost.com · 2018

Personal de noticias de tech2

¿Recuerdas el momento en que el algoritmo de reconocimiento de imágenes de Google creó una gran controversia después de que categorizara a una pareja negra como “gorilas”?

Si no lo hace, no lo culpamos, ya que …

La aplicación de fotos de Google aún no puede encontrar gorilas. Y tampoco los de Apple.
nytimes.com · 2023

Ocho años después de una controversia sobre los negros que fueron etiquetados erróneamente como gorilas por un software de análisis de imágenes, y a pesar de los grandes avances en la visión por computadora, los gigantes tecnológicos aún te…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.