Registro de citas para el Incidente 63

Description: Google Photos' AI Assistant created a strange hybrid photograph when merging three different pictures from a ski trip.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial
Presunto: un sistema de IA desarrollado e implementado por Google, perjudicó a Alex Harker.

Estadísticas de incidentes

ID
63
Cantidad de informes
1
Fecha del Incidente
2018-01-25
Editores
Sean McGregor

Clasificaciones de la Taxonomía CSETv0

Detalles de la Taxonomía

Full Description

According to Android user Alex Harker, the Google Photos AI assistant created a strange hybrid of three photos he took on a ski trip. Two of the photos were of a forest landscape, while one photo was of Harker's friend. Google Photos created a stranged merged photo showing the friend's head half-merged behind the trees.

Short Description

Google Photos' AI Assistant created a strange hybrid photograph when merging three different pictures from a ski trip.

Severity

Negligible

AI System Description

Facial recognition software used by Google Photo Assistant

System Developer

Google

Sector of Deployment

Arts, entertainment and recreation

Relevant AI functions

Perception, Cognition

AI Techniques

Facial recognition

AI Applications

Facial recognition

Location

Banff, Alberta

Named Entities

Google Photos, Assistant, Android, Alex Harker, Alberta

Technology Purveyor

Google

Beginning Date

01/2018

Ending Date

01/2018

Near Miss

Unclear/unknown

Intent

Accident

Lives Lost

No

Data Inputs

Photographs

Clasificaciones de la Taxonomía CSETv1

Detalles de la Taxonomía

Harm Distribution Basis

none

Sector of Deployment

Arts, entertainment and recreation, information and communication

Informes del Incidente

Google Fotos intentó arreglar esta foto de esquí
qz.com · 2018

El intrépido Asistente de Google Photos solo quiere ayudar.

Como parte de la aplicación de fotos del fabricante de Android, ayuda a organizar las miles de fotos almacenadas en su teléfono. Puede crear pequeños álbumes de los lugares a los q…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.