Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 541

Incidentes Asociados

Incidente 3520 Reportes
Employee Automatically Terminated by Computer Program

Loading...
Este hombre fue despedido por una máquina. Los humanos eran impotentes para hacer cualquier cosa. He aquí por qué la máquina debe ser admirada
inc.com · 2018

Absurdly Driven mira el mundo de los negocios con un ojo escéptico y una lengua firmemente arraigada en la mejilla.

Seguramente has tenido la experiencia.

Estás sentado frente a un jefe al que no respetas, que es, francamente, un incompetente, y te dice: "Lo siento mucho. Vamos a tener que dejarte ir".

No lo lamentan, por supuesto. Es probable que se estén divirtiendo.

Me pregunto, entonces, si las máquinas también pueden sentir emociones. Sobre todo cuando te despiden.

Verá, me he estado bañando en una historia fascinante contada por el programador de Los Ángeles Ibrahim Diallo.

Diallo dice que un día fue a trabajar y que su tarjeta de acceso simplemente no funcionaba.

Naturalmente, el guardia de seguridad lo reconoció y lo dejó entrar, usando su botón secreto.

Pero siguió ocurriendo. Cada vez que utilizó un medio electrónico para ingresar a su edificio de oficinas, el sistema lo rechazó.

Peor aún, incluso después de completar tareas de ingeniería fina, los sistemas internos de la empresa se negaron a permitirle ingresar a sus sistemas para registrar el trabajo que había realizado.

Lo que continuó fue una serie de eventos que habrían hecho reír tan fuerte a Franz Kafka en su ataúd que el personal del cementerio le habría dicho que se callara.

A medida que el asunto se intensificó en la cadena de títulos de trabajo, nadie pudo hacer nada por el hecho de que Diallo parecía haber sido despedido.

Describe a los jefes de recursos humanos como "indefensos".

Seguían diciéndole que viniera a trabajar, pero las máquinas aún le daban el estado de excomulgado.

Y luego fue conducido fuera del edificio por el mismo hombre de seguridad que había usado su botón secreto para dejarlo entrar el primer día de esta absurda debacle.

Diallo tiene facilidad para el drama.

“El sistema estaba buscando sangre y yo fui su primera víctima”, escribió.

Al final, tomó tres semanas para resolver el problema. Diallo explicó la macabra tontería técnica detrás de su rechazo:

Cuando se envía la orden de deshabilitar mi tarjeta llave, no hay forma de volver a habilitarla. Una vez que se deshabilita, se envía un correo electrónico a seguridad sobre los empleados despedidos recientemente. Escanear la tarjeta llave es una bandera roja. También se envía la orden de deshabilitar mi cuenta de Windows. También hay uno para mi cuenta JIRA. Y así sucesivamente. No hay forma de detener el proceso de varios días.

Se podría pensar que la máquina debe haber tenido una razón.

Diallo supone que su gerente había sido despedido y, un poco decepcionado por eso, se olvidó, o ni siquiera se molestó, de renovar el contrato de Diallo.

Hay quienes pensarán que esto es un presagio doloroso del futuro.

Un día, irá a la oficina y su máquina simplemente le dirá que ha sobrevivido a su utilidad.

Hablé con un par de profesionales de recursos humanos sobre esto, y la reacción típica fue una risa un poco tímida.

"Despedir gente es la peor parte de mi trabajo", me dijo uno. "La mayoría de las veces, ellos saben que estás mintiendo y tú sabes que estás mintiendo. Tener una máquina que haga el trabajo sucio sería genial".

Lo que me hizo pensar un poco.

Hemos creado un mundo en el que quienes diseñan nuestras tecnologías piensan que los humanos deberían comportarse más como máquinas.

Deberíamos pulsar botones cuando la máquina nos lo indique. Deberíamos interactuar con otros solo a través de máquinas.

Las máquinas deciden qué noticias debemos recibir. Suponen que siempre queremos el mismo tipo de noticias, por lo que excluyen todo lo demás.

Nosotros, a su vez, hemos llegado a creer que las máquinas tienen razón porque son más inteligentes que nosotros.

Ya no podemos encender una luz sin pedirle a una máquina que lo haga por nosotros.

Queremos que las máquinas nos conduzcan, porque no confiamos en nosotros mismos. ¿Y por qué no confiamos en nosotros mismos? Porque las máquinas nos siguen diciendo que son más inteligentes que nosotros.

¿Por qué, entonces, una máquina que despide a alguien debería ser algo más que útil?

La máquina reclama objetividad absoluta. A pesar de que Facebook finalmente admitió que esta supuesta objetividad es un montón de tonterías.

Uno pensaría, como lo hace Diallo, que "tiene que haber una manera de que los humanos tomen el control si la máquina comete un error".

Sin embargo, me temo que eso es precisamente lo que muchos, digamos, ingenieros de Google no quieren.

Quieren construir edificios técnicos a su propio ingenio, como máquinas que se implantan en nuestras cabezas y nos dicen qué chistes contar en un momento dado. (Esto es precisamente lo que el director de ingeniería de Google, Ray Kurzweil, afirma que es su sueño apasionante).

Diseñan los algoritmos, se sientan y admiran su propio trabajo y es demasiado tarde para ser alertados de algunas de las angustiosas consecuencias.

Prometen jugar con la máquina, pero cuando lo hacen, el comportamiento humano ha cambiado un poco.

Por supuesto, la verdadera ironía es que estas máquinas han sido creadas con instrucciones imperfectas dadas por humanos que luego les permiten hacer lo que dictan sus sistemas.

No permitimos que nuestros hijos se comporten de esta manera. Las máquinas, por otro lado, son creaciones geniales, así que déjalas hacer lo suyo.

El resultado es que estamos creando un mundo en el que estamos un poco tristes, las criaturas y las máquinas incompetentes representan el apogeo de la brillantez y la verdad objetivas.

¿Por qué, entonces, deberíamos cuestionar una máquina que dispara

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd