Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 2256

Incidentes Asociados

Incidente 3954 Reportes
Amazon Forced Deployment of AI-Powered Cameras on Delivery Drivers

Loading...
Para este conductor de furgoneta de Amazon, la vigilancia de IA fue la gota que colmó el vaso
news.trust.org · 2021

19 de marzo (Fundación Thomson Reuters) – Cuando Vic comenzó a entregar paquetes para Amazon en 2019, lo disfrutó: el trabajo era físico, le gustaba la autonomía y le permitía explorar nuevos vecindarios en Denver, Colorado.

Pero a Vic, que pidió que lo llamaran por su nombre de pila por temor a represalias, no le gustó la sensación de que estaba constantemente bajo vigilancia.

Al principio, era la aplicación "Mentor" de Amazon la que monitoreaba constantemente su forma de conducir, el uso del teléfono y la ubicación, generando una puntuación para que los jefes evaluaran su desempeño en el camino.

“Si pasamos por un bache, el teléfono sonaría, la aplicación Mentor registraría que usé el teléfono mientras conducía y, boom, me bloquearía”, dijo.

Luego, Amazon comenzó a pedirle que publicara "selfies" antes de cada turno en Amazon Flex, otra aplicación que tenía que instalar.

“Ya había iniciado sesión con mi tarjeta de acceso al comienzo del turno, ¿y ahora quieren una foto? Era demasiado", dijo.

La última humillación, dijo, fue la decisión de Amazon de instalar una cámara de cuatro lentes alimentada por IA en los vehículos de reparto que registraría y analizaría su rostro y cuerpo durante todo el turno.

Este mes, Vic presentó su aviso de dos semanas y renunció, antes de la fecha límite del 23 de marzo para que todos los trabajadores en su ubicación de despacho de Denver firmen formularios de liberación que autorizan a Amazon a filmarlos y recopilar y almacenar su información biométrica.

“Fue tanto una violación de la privacidad como un abuso de confianza”, dijo. “Y yo no iba a tolerarlo”.

Los sistemas de cámaras, fabricados por la firma Netradyne con sede en EE. UU., son parte de un esfuerzo nacional de Amazon para abordar las preocupaciones sobre los accidentes que involucran a sus cada vez más omnipresentes camionetas de reparto.

Amazon no respondió a una solicitud de comentarios, pero le dijo previamente a la Fundación Thomson Reuters que el acceso a las imágenes era limitado y que el video solo se cargaría después de que se detectara un incidente de manejo inseguro.

Albert Fox Cahn, que dirige el Proyecto de Supervisión de Tecnología de Vigilancia, una organización de privacidad, dijo que las cámaras de Amazon eran parte de una nueva tendencia preocupante.

“A medida que las cámaras se vuelven más baratas y la inteligencia artificial se vuelve más poderosa, estos sistemas de rastreo invasivos son cada vez más la norma”, dijo.

hombre bostezando

Las cámaras están equipadas con sensores que detectan si un conductor bosteza, conduce sin cinturón de seguridad o parece distraído, según [una descripción del producto] (http://www.itechgps.com/sites/itechbus/uploads/documents/Netradyne_Presentation.pdf) publicado en línea.

Si se detecta alguno de estos comportamientos, la cámara registra el incidente y lo comparte con el despachador.

El centro de entrega local de Vic, un contratista de Amazon de propiedad independiente que no puede ser identificado para proteger el anonimato del conductor, fue elegido para ayudar a pilotar el proyecto hace más de un año, dijo Vic.

En ese momento, Vic les dijo a sus supervisores que pensaba que los dispositivos eran intrusivos e insultantes, enviando el mensaje de que solo podía hacer un buen trabajo si lo observaban de cerca.

Hasta este mes, en gran medida había podido solicitar camionetas sin las cámaras instaladas.

Pero hubo algunas veces que condujo una camioneta equipada con las cámaras. Al final de su turno, su supervisor le mostró todas las imágenes que había capturado.

Cada vez que la IA de la cámara detectaba una anomalía en el comportamiento de Vic (un bostezo, una mirada a su teléfono), comenzaba a grabar y guardar las imágenes.

Vic se sintió violada.

“Todos estamos ahí para hacer un trabajo. Y si no confían en nosotros para hacer el trabajo, si sienten que necesitan estar observándonos las 24 horas del día, los 7 días de la semana, ¿por qué nos contrataron? ¿Por qué estamos en la nómina?

Eventualmente, su DSP le dijo a Vic que las cámaras se convertirían en una política obligatoria de la compañía para todas las camionetas todo el tiempo, y que tendría que aceptar ser filmado o buscar otro trabajo.

El 2 de marzo, recibió una notificación en su aplicación Amazon Flex de que ahora tendría que firmar un formulario de consentimiento para permitir que Amazon lo filmara en el trabajo, ya que las cámaras iban en todas las camionetas.

Tenía hasta el 23 de marzo para inscribirse.

Cuando Vic leyó los documentos, le molestó leer que Amazon se reservaba el derecho de "compartir la información... con proveedores de servicios externos" y "afiliados del grupo Amazon".

Eso le pareció extraño a Vic; Fox Cahn vio la mano de los abogados.

"Parece que estas políticas fueron escritas por abogados costosos con el único objetivo de proteger los resultados de Amazon, no la privacidad de sus trabajadores", dijo el experto en privacidad.

"La forma en que están escritos básicamente reserva el derecho de Amazon de hacer casi lo que quiera con estos datos".

En la mira de los senadores

Las políticas también llamaron la atención de los legisladores estadounidenses.

En [una carta a Amazon](https://www.markey.senate.gov/news/press-releases/senator-markey-calls-for-answers-about-amazon-camera-doorbell-companys-partnerships-with- departamentos de policía) el 3 de marzo, cinco senadores demócratas expresaron su preocupación por las implicaciones de privacidad de las cámaras.

También le pidieron a Amazon que “identifique a cualquier tercero con el que Amazon haya compartido o planee compartir” sus imágenes.

El senador Ed Markey de Massachusetts, uno de los firmantes, le dijo a la Fundación Thomson Reuters que Amazon no había respondido.

“Proteger la seguridad en nuestras carreteras es vital, pero también lo es proteger los derechos de los trabajadores”, dijo por correo electrónico. “El sistema de vigilancia que Amazon está implementando en su flota de vehículos plantea serias preocupaciones sobre la privacidad y la supervisión de los trabajadores”.

Los senadores se hicieron eco de otra preocupación de Vic: que no había forma de optar por no participar en la vigilancia, incluso para los conductores con registros de seguridad estelares.

“Fui el mejor conductor en mi despacho”, dijo Vic, señalando que no tuvo accidentes en dos años de trabajo. "Si Amazon quisiera mejorar la seguridad, hay muchas otras cosas que podrían hacer".

Le preocupaba que las cámaras fueran una forma de poner la carga de la seguridad en los conductores, en lugar de invertir en una mejor capacitación.

En los foros en línea de Reddit frecuentados por los conductores de Amazon, docenas se han quejado de las cámaras y su falta de elección.

En última instancia, Vic dice que se vio obligado a priorizar su privacidad o su sustento, calificándolo de "una especie de coerción".

Ha encontrado otro trabajo con otra empresa de entrega que no usa cámaras, pero se preocupa por sus amigos en Amazon.

“Quería presentarme y hacer mi trabajo, no que me observaran todo el tiempo, y esa no era una opción”, dijo. “No es una elección que nadie debería tener que hacer”.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd