Problema 3260

Khan Academy anuncia a sus tutores de inteligencia artificial como “el futuro del aprendizaje” en su sitio web, pero la verdad es un poco más complicada. Lo que el sitio no dice de antemano es que su servicio permite a los estudiantes seleccionar diferentes figuras históricas como Genghis Khan, Moctezuma, Abigail Adams y Harriet Tubman. Actualmente, el servicio no está disponible para todos; está restringido a unos pocos distritos escolares, así como a probadores voluntarios del producto.

Al igual que ChatGPT, los avatares extraen datos disponibles en Internet para crear un depósito de palabras en el "vocabulario" del bot con el que está hablando el usuario.

The Washington Postprobó los límites de esta tecnología, específicamente el avatar de Harriet Tubman, para vea si la IA imitaría el patrón de habla y el espíritu de Tubman o si daría una impresión ofensiva o una regurgitación de información de Wikipedia.

Según el artículo, la herramienta está diseñada para ayudar a los educadores a fomentar la curiosidad de los estudiantes por las figuras históricas, pero existen límites en la forma en que se programa el robot, lo que da como resultado avatares que no representan con precisión las figuras que se supone que deben representar.

Estas entrevistas con IA inmediatamente plantearon dudas, no sólo sobre la ética en el naciente campo de la inteligencia artificial, sino también sobre la ética incluso al realizar una “entrevista” de este tipo en interés del periodismo. Muchos usuarios negros en Twitter estaban horrorizados ante la idea de exhumar digitalmente a un ícono y antepasado venerado como Harriet Tubman. Estas preocupaciones parecen estar ubicadas en el conocimiento práctico de que los creadores de estas aplicaciones y robots no están interesados en la fidelidad a los espíritus de los muertos, porque no parecen preocuparse mucho por los negros vivos que continuamente no hacen bien. por.

Incluso The Washington Post reconoce que el robot no pasa sus verificaciones de datos básicas, y Khan Academy enfatiza que el robot no está destinado a funcionar como un registro histórico de eventos. ¿Por qué introducir una tecnología de este tipo si no se puede confiar en que ni siquiera se haga pasar por una “versión” actualizada de personajes históricos?

UNESCO establece algunos principios básicos y recomendaciones para la ética en el campo de la inteligencia artificial en su sitio web. La organización creó el primer estándar global de ética en inteligencia artificial, que fue aceptado por 193 países de todo el mundo en 2021.

Sus cuatro pilares son los derechos humanos y la dignidad humana, vivir en paz con énfasis en la creación de una sociedad justa, garantizar la diversidad y la inclusión y el ambientalismo. Incluso una mirada superficial a estos pilares encontraría que el robot de Khan Academy que se hace pasar por figuras históricas que no pueden dar su consentimiento para que se utilicen sus imágenes y nombres es una violación flagrante de la ética y, algunos dirían, de las pautas morales.

Si los muertos tienen dignidad, desenterrarlos para lo que equivalen a ejercicios de pensamiento representa un completo desprecio por sus deseos y una falta de reflexión sobre estos principios éticos. En su debate sobre la equidad y la no discriminación, la UNESCO escribe: “Los actores de la IA deben promover la justicia social, la equidad y la no discriminación, adoptando al mismo tiempo un enfoque inclusivo para garantizar que los beneficios de la IA sean accesibles para todos”.

Parece que Khan Academy necesita tomar en serio estas palabras, porque en la actualidad, no parece exactamente que la justicia social, la equidad y la accesibilidad estén en el centro de este proyecto. Las reacciones a este experimento en las redes sociales le cuentan esa historia al mundo.