Incidentes Asociados
No siempre la implementación de la electrónica autónoma en la realidad cotidiana funciona sin problemas.
Otra noticia, que nuevamente provocó una serie de discusiones en torno a las tecnologías de IA y su realización física en la vida real: en la ciudad de Tempe, Arizona, Estados Unidos, un auto autónomo de Uber atropelló a un peatón. Producto del accidente, la mujer falleció.
¿Cuál es la manera de evitar tales problemas en el futuro? ¿Cuáles son las conclusiones a sacar? ¿Qué riesgos deben prever quienes pretendan utilizar el potencial de las nuevas tecnologías en sus aplicaciones móviles y web?
Al igual que muchas otras tecnologías emergentes, la IA ofrece enormes oportunidades y muestra una gran promesa, de la que hemos hablado más de una vez. Pero es mejor aprender de antemano las trampas y las posibles consecuencias adversas de la aplicación incorrecta. Como dicen, praemonitus – praemunitus.
Dividamos los problemas relacionados con la IA en dos grandes grupos:
interno
Bugs, fallos, errores, a raíz de los cuales los sistemas se comportan de la forma más inesperada, a veces para sorpresa de sus creadores.
externo
Cuestiones éticas y legales, mal uso u otros momentos que surjan a medida que la inteligencia artificial interactúa con el mundo real.
Los accidentes ocurren en las familias de IA mejor reguladas
Charla no infantil
Charla de bots
En 2017, Facebook creó dos chatbots diseñados para negociar, ayudar a las personas a realizar pedidos, programar citas, etc. En algún momento, las cosas dieron un giro inesperado: Bob y Alice comenzaron a comunicarse entre ellos en su propio lenguaje artificial. A los bots no se les había dado originalmente la instrucción de comunicarse en un lenguaje comprensible para las personas, por lo que simplemente eligieron su propio camino. Como resultado, la ausencia de una restricción llevó a un malentendido entre los creadores y sus creaciones, en el verdadero sentido de la palabra.
Fiesta solo por invitación de Alexa
En uno de los apartamentos de Hamburgo, Amazon Echo organizó espontáneamente una fiesta en mitad de la noche. Para ser más precisos, el dispositivo de inteligencia artificial comenzó a reproducir la lista de reproducción del anfitrión al máximo volumen. Los vecinos no se animaron con la idea y llamaron a la policía. Como resultado, la puerta se rompió, la fiesta de impulso se interrumpió. Amazon se disculpó con el propietario ofreciéndole pagar la multa y la factura de una puerta nueva.
Juegos Juegos de IA
¡Juego terminado!
La inteligencia artificial Elite Dangerous comenzó a desarrollar una súper arma, que inicialmente no había sido desarrollada por los creadores y cazaba las naves de los jugadores. Todo sucedió después de la implementación de la actualización The Engineers (2.1). En ese caso, los jugadores no tuvieron oportunidad de resistir las nuevas y poderosas armas, y los desarrolladores tuvieron que intervenir para salvar la situación y las naves de los jugadores humanos.
La importancia de ser imparcial
Un investigador del MIT Media Laboratory (Massachusetts Institute of Technology) analizó la función de tres programas comerciales destinados a identificar rostros. Para ello, Joy Buolamwini recopiló 1200 fotografías de varias personas. El resultado mostró que las redes neuronales son excelentes para reconocer los rostros de los hombres de piel clara, mientras que la proporción de errores con las mujeres de piel oscura fue un 34 % mayor.
La conclusión es que para excluir el sesgo en las evaluaciones, las máquinas deben "aprender" en una gran cantidad de ejemplos diversos.
"Abre la puerta de Pod Bay, HAL"
Papel piedra tijera con Sophia
En este sentido, no se puede dejar de mencionar a Sophia (un robot humanoide). En marzo de 2016, hizo sonrojar a su propio creador por la respuesta positiva que dio descaradamente a su pregunta sobre si quiere destruir a la humanidad. Para ser justos, debemos tener en cuenta que en el otoño de 2017 sus puntos de vista se suavizaron. En una de las entrevistas, Sophia dijo que está llena de sabiduría humana con las más puras intenciones altruistas y pidió que la percibieran de esa manera.
Todos tenemos nuestros defectos. Pero aquellos que son conscientes de la responsabilidad y las graves consecuencias tendrán en cuenta los errores de los demás para excluirlos en la etapa más temprana posible. Al desarrollar una aplicación de IA para su uso en medicina, comercio, marketing o publicidad, uno siempre puede aprender de la experiencia en otras áreas, incluso si no están directamente relacionadas.
Inteligencia artificial: pruebas de realidad
Juego de entorno legal
Las tecnologías de inteligencia artificial penetran paulatinamente en los diferentes ámbitos de la actividad humana. En consecuencia, surgen nuevas preguntas, cómo deben interpretarse las acciones de AI desde el punto de vista de las normas jurídicas.
Consulte, por ejemplo, su propia experiencia de conducción. Seguro que te has tenido que enfrentar a situaciones en las que el conductor necesitaba tomar un relámpago y no siempre una decisión de un solo valor.
¿Pondrás en riesgo a tus propios pasajeros o salvarás a un niño que cruza corriendo la calle? ¿Qué algoritmo elegirá en este caso una máquina? Aunque no tengamos en cuenta el componente moral y ético, sigue sin estar claro quién es el responsable de las consecuencias del accidente de un vehículo autónomo: el desarrollador del código, el fabricante o el coche.