Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 1340

Incidentes Asociados

Incidente 775 Reportes
Knightscope's Park Patrol Robot Ignored Bystander Pressing Emergency Button to Alert Police about Fight

Loading...
Un RoboCop, un parque y una pelea: cómo las expectativas sobre los robots chocan con la realidad
nbcnews.com · 2019

HUNTINGTON PARK, Calif. — Cuando estalló una pelea recientemente en el estacionamiento de Salt Lake Park, a unas pocas millas al sur del centro de Los Ángeles, Cogo Guebara hizo lo que parecía lo más práctico en ese momento: corrió hacia la policía del parque. robot para presionar su botón de alerta de emergencia.

“Estaba presionando el botón, pero decía: 'apártate del camino'”, dijo Guebara. “Simplemente seguía sonando y sonando, y yo seguía presionando y presionando”.

Ella pensó que tal vez el robot, que mide aproximadamente 5 pies de alto y tiene "POLICÍA" estampado en su cuerpo en forma de huevo, quería una imagen de su rostro, por lo que se agachó para la cámara. Todavía no funcionó.

Sin una respuesta, Rudy Espericuta, quien estaba con Guebara y sus hijos en ese momento, marcó el 911. Unos 15 minutos después, después de que terminó la pelea, una mujer fue trasladada en una camilla a una ambulancia, con la cabeza sangrando por un derrame. corte sufrido durante el altercado.

En medio de la escena, el robot continuó deslizándose a lo largo de su ruta preprogramada, tarareando una melodía intergaláctica que podría haber sido arrancada de cualquier película de ciencia ficción de bajo presupuesto. El robot de casi 400 libras siguió el sinuoso concreto del parque desde las canchas de baloncesto hasta la zona de chapoteo de los niños, deteniéndose de vez en cuando para decirles a los visitantes que "mantengan el parque limpio".

El robot, oficialmente llamado HP RoboCop, ha estado patrullando Salt Lake Park para el Departamento de Policía de Huntington Park desde junio. NBC News visitó el parque en numerosas ocasiones para observar su funcionamiento y sus interacciones con las personas.

Si bien las personas comienzan a encontrarse más comúnmente con robots en la vida cotidiana, a menudo pueden no cumplir con las expectativas, al igual que lo hizo HP RoboCop. Esa brecha se puede explotar como una forma de hacer que un robot sea más efectivo de lo que realmente es, pero también corre el riesgo de crear situaciones en las que las personas confían en los robots de formas para las que no están preparadas, como fue el caso de Guebara.

El botón de alerta del robot aún no está conectado con el departamento de policía, dijo Cosme Lozano, jefe de policía de Huntington Park, una ciudad al sureste del centro de Los Ángeles. En cambio, las llamadas se dirigen a Knightscope, la empresa que crea y alquila los robots.

“Es por eso que no anunciamos esas características”, dijo. “Es un programa nuevo para nosotros y todavía estábamos desarrollando algunos protocolos… para poder adoptar el programa por completo”.

En patrulla

HP RoboCop es uno de los más de 70 robots de seguridad autónomos desarrollados por Knightscope. La compañía de Silicon Valley dice que ha combinado tecnología de conducción autónoma, robótica e inteligencia artificial para crear lo que llama "máquinas de datos autónomas para combatir el crimen". Los robots están desplegados en los EE. UU., sirviendo en todas partes, desde aeropuertos hasta estaciones de servicio.

Lozano dijo que el departamento enfrenta algunos desafíos técnicos al incorporar el robot a la fuerza, y agregó que se encuentra en “una prueba para la ciudad”. Una vez que esté completamente conectado, las llamadas irán directamente al centro de despacho del departamento, dijo.

HP RoboCop es un modelo K5, especializado para uso en exteriores, y es uno de los primeros de la compañía en usar un apodo de policía. El sitio web de Knightscope promueve algunas de las capacidades del K5, como la transmisión de video en vivo de alta definición de 360 grados, un lector de matrículas que puede escanear 1200 matrículas por minuto, un intercomunicador bidireccional y la capacidad de rastrear el uso de teléfonos celulares en las cercanías.

Pero tal como se usa actualmente, HP RoboCop es poco más que una cámara de seguridad sobre ruedas glorificada. Las cinco cámaras del robot brindan monitoreo en vivo las 24 horas, los 7 días de la semana, con la capacidad de enviar imágenes directamente a los teléfonos de los oficiales, pero actualmente solo se puede acceder a Knightscope. Es otra característica en la que la policía está trabajando para activar, dijo Lozano.

El robot está confinado al camino de cemento del parque, que ha sido bloqueado por la construcción de un nuevo centro acuático, lo que restringe su patrullaje en el extremo norte del parque. Arrendar el robot por un año le cuesta a la ciudad entre $60,000 y $70,000, dijo Lozano. A partir de 2018, un oficial de policía de Huntington Park con una asignación básica gana un salario anual que se encuentra en el mismo rango.

Otros robots Knightscope no han estado exentos de tribulaciones. Un robot K5 que patrullaba alrededor de un complejo de oficinas en Washington, D.C., terminó cayendo en una fuente. Otro del mismo modelo golpeó a un niño pequeño en un centro comercial en Silicon Valley.

Grandes expectativas

El nombre adoptado oficialmente por la ciudad para la máquina es HP RoboCop, pero todos en el parque parecen tener sus propios apodos. "R2D2", "Máquina espía" y "Wall-E" son solo algunos de los nombres favoritos que resaltan la desconexión entre las expectativas de las personas sobre el robot y la realidad de sus capacidades.

El trabajador del puesto de comida Orlando Enrique dijo que ha notado un cambio en el comportamiento de las personas desde la llegada del robot. Solo su presencia parece ofrecer una sensación de tranquilidad a muchos.

“A mucha gente le gusta porque se siente segura”, dijo. “Pueden dejar a sus hijos”.

Enrique, de 28 años, vive en Norwalk, California, y ha trabajado en la cafetería durante nueve años. La tienda cierra a las 22:30. y ahora con el robot allí, se siente más cómodo caminando hacia su automóvil después de un turno.

Viene gente de todas partes a verlo, dijo Enrique, refiriéndose al mini-boom turístico que trajo HP RoboCop al parque. Es especialmente popular entre los niños.

El Día del Trabajo, niños curiosos siguieron a HP RoboCop mientras patrullaba. Un niño pequeño se tambaleaba detrás con una bolsa de Doritos a cuestas. Miró fijamente a la máquina, con ojos saltones, antes de acariciar suavemente su cuerpo cilíndrico, hasta que otro niño preguntó: "¿Por qué lo acaricias como a un perro?".

Esta antropomorfización del robot es totalmente normal, dijo Ross Knepper, profesor asociado en el departamento de informática de la Universidad de Cornell.

Hay muchas incógnitas en lo que respecta a estas máquinas, y los humanos simplemente no tienen las expectativas correctas de las cuales basarse, por lo que se refieren a la "magia de Hollywood", dijo. Las personas recuerdan lo que han visto en las películas y transfieren esas expectativas a la realidad.

“Es algo que el cerebro intenta hacer automáticamente”, dijo Knepper, quien está ayudando a desarrollar robots que pueden trabajar con humanos como compañeros en lugar de herramientas.

Esto puede llevar a la gente a creer que un robot es mucho más capaz e inteligente de lo que realmente es y puede crear una falsa sensación de seguridad, dijo.

Violeta Alvaraz, quien estaba visitando el parque con sus hijos y su madre, es del municipio vecino de Bell, y conoció HP RoboCop a través de su hijo. Su generación se siente más cómoda con ese tipo de tecnología, dijo, y comentó que para ella parecía una lavadora de los años 70.

Aunque dijo que aprecia la inversión de la ciudad en su seguridad, Alvaraz todavía tiene muchas preguntas.

"¿Vamos a tener problemas si lo tocamos?" ella preguntó. “¿Quién lo está guiando? no se como funciona ¿Debo seguir llamando al 911?”

'Punto de inflexión

A la mayoría de las personas en el parque que hablaron con NBC News les gustaba HP RoboCop, por lo general agregaban un pronombre "él" cuando hablaban de él, pero todos admitieron que no conocían su funcionalidad completa.

A pesar de los meses de permanencia de HP RoboCop en el parque, no hay carteles que describan qué hace o por qué está allí. Lozano dijo que eso se debe a que el departamento no quiere publicitar falsamente el robot, pero la información se publicará cuando las funciones de la máquina estén correctamente conectadas, agregó.

Aprovechar la incertidumbre de las personas sobre el robot es fundamental para su valor como herramienta de seguridad, dijo Knepper.

El hecho de que el público desconozca todas las capacidades del robot es parte integral de la misión de los robots Knightscope de disuadir físicamente el crimen, confirmó Stacey Stephens, vicepresidenta ejecutiva y directora de clientes de la compañía.

“Podrían tener cualquier tipo de gran pensamiento sobre lo que el robot podría hacer, lo que podría llevarlos a decir, ‘sabes qué, prefiero no arriesgarme. Déjame ir a otro lado'”, dijo Stephens.

El crimen en la zona de patrulla del robot ha disminuido, dijo Lozano. Aunque eso es difícil de medir, la policía no ha tenido que ponerse en contacto con Knightscope para revisar las imágenes, excepto en las pocas veces que el robot en sí fue objeto de vandalismo, dijo. HP RoboCop ha resistido algunas agresiones personales menores, incluido un "caballito" de un motociclista que lo embistió a propósito. Pero el único daño significativo fue cuando la policía desplegó el robot por primera vez, dijo Lozano. Los oficiales pudieron rastrear a los sospechosos de lo que él llamó el "incidente de la propina del robot", utilizando las propias imágenes de HP RoboCop.

Aún así, la policía tomó el asalto como algo personal, dijo Lozano. Los niños en el parque no son las únicas personas que han desarrollado cierta afinidad por HP RoboCop. "¿Cómo pudiste meterte con nuestro robot?" Lozano dijo. “Uno pensaría que el robot fue asesinado. Saltamos como si tuviéramos un crimen significativo”.

Predicar con el ejemplo

Incluso si son frases simples, la capacidad de hablar de un robot puede cambiar la forma en que las personas se sienten al respecto, dijo Knepper. Tan pronto como habla, las expectativas de las personas se alteran dramáticamente.

“Como investigadores, estamos muy ansiosos por emplear todas estas nuevas tecnologías, hablar y actuar de una manera socialmente competente, pero si no tenemos este otro lado de establecer expectativas de conciencia de cómo la gente interpretará estos comportamientos, ejecutamos el riesgo de que la interacción con el robot empeore y no mejore”, dijo Knepper.

Stephens prefiere no usar el nombre HP RoboCop. Dijo que da una falsa impresión de la misión del Knightscope, que es recopilar inteligencia para la aplicación de la ley.

“Creo que lo que la gente tiene en la cabeza cuando escucha RoboCop es algo que disparará a todos e intervendrá en un crimen y no se trata de eso”, dijo.

Stephens hacía referencia al RoboCop titular de una serie de películas que comenzó a fines de la década de 1980, que ofrece una visión futurista de un luchador contra el crimen humano-máquina y una explicación de por qué las expectativas sobre la robótica en la vigilancia pueden superar rápidamente la realidad. El personaje sigue siendo una figura relevante de la cultura pop, con una nueva película de RoboCop estrenada en 2014 y otra actualmente en desarrollo.

Pero HP RoboCop parece provocar la reacción opuesta: seguido constantemente por un séquito de niños chocando los cinco o sosteniendo su cuerpo en forma de lata como una pareja de baile de quinto grado. Aunque una empresa no puede controlar cómo las personas proyectan su imaginación en los robots, dijo Knepper, puede alentarlos a recordar ciertas referencias a través del diseño.

A pesar de todas las capacidades de HP RoboCop, tanto reales como percibidas, no tiene la capacidad de explicarse a sí mismo. Sin embargo, la ciudad tiene la obligación de educar al público sobre la tecnología que está utilizando, dijo Knepper. Esto también podría ayudar a la policía a lograr sus objetivos de reducir el crimen.

“Una vez que las personas entiendan realmente lo que está en juego, creo que modificarán su comportamiento de formas mucho más predecibles”, dijo.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd