Problème 3260
Khan Academy présente ses tuteurs en intelligence artificielle comme « l'avenir de l'apprentissage » sur son site Web, mais la vérité est un peu plus compliquée. Ce que le site ne précise pas d'emblée, c'est que son service permet aux apprenants de sélectionner différents personnages historiques tels que Gengis Khan, Montezuma, Abigail Adams et Harriet Tubman. Le service n'est actuellement pas accessible à tous ; il est limité à quelques districts scolaires ainsi qu'à des testeurs bénévoles du produit.
Semblable à ChatGPT, les avatars extraient des données disponibles sur Internet pour créer un référentiel de mots dans le « vocabulaire » du bot auquel un utilisateur parle.
Le Washington Posta testé les limites de cette technologie, en particulier l'avatar d'Harriet Tubman, pour voyez si l'IA imiterait le modèle de discours et l'esprit de Tubman ou si elle apparaîtrait comme une impression offensante ou une régurgitation d'informations Wikipédia.
Selon l’article, l’outil est conçu pour aider les enseignants à stimuler la curiosité des élèves à l’égard des personnages historiques, mais il existe des limites dans la programmation du robot, ce qui entraîne des avatars qui ne représentent pas fidèlement les personnages qu’ils sont censés représenter.
Ces entretiens avec l’IA ont immédiatement soulevé des questions, non seulement sur l’éthique dans le domaine naissant de l’intelligence artificielle, mais aussi sur l’éthique même de la conduite d’une telle « interview » dans l’intérêt du journalisme. De nombreux utilisateurs noirs sur Twitter ont été horrifiés à l’idée d’exhumer numériquement une icône et ancêtre vénérée en la personne d’Harriet Tubman. Ces préoccupations semblent provenir du fait que les créateurs de ces applications et de ces robots ne sont pas intéressés par la fidélité aux esprits des morts, car ils ne semblent pas se soucier beaucoup des Noirs vivants qu'ils ne parviennent continuellement pas à faire correctement. par.
Même le The Washington Post reconnaît que le bot échoue à ses vérifications de base des faits, et la Khan Academy souligne que le bot n'est pas destiné à fonctionner comme un enregistrement historique des événements. Pourquoi introduire une telle technologie si on ne peut même pas lui faire confiance pour se faire passer pour une « version » à jour de personnages historiques ?
L'UNESCO expose sur son site Web quelques principes de base et recommandations en matière d'éthique dans le domaine de l'intelligence artificielle. L’organisation a créé la première norme mondiale d’éthique en matière d’intelligence artificielle, qui a été acceptée par 193 pays à travers le monde en 2021.
Leurs quatre piliers sont les droits de l'homme et la dignité humaine, la vie en paix en mettant l'accent sur la création d'une société juste, la garantie de la diversité et de l'inclusion, et l'environnementalisme. Même un rapide coup d’œil à ces piliers permettrait de constater que le robot de la Khan Academy se faisant passer pour des personnages historiques qui ne peuvent pas consentir à ce que leurs portraits et leurs noms soient utilisés constitue une violation flagrante de l’éthique et, diraient certains, des directives morales.
Si les morts ont de la dignité, les déterrer pour ce qui équivaut à des exercices de réflexion représente un mépris total de leurs souhaits et un manque de réflexion sur ces principes éthiques. Dans son débat sur l’équité et la non-discrimination, l’UNESCO écrit : « Les acteurs de l’IA devraient promouvoir la justice sociale, l’équité et la non-discrimination tout en adoptant une approche inclusive pour garantir que les avantages de l’IA soient accessibles à tous. »
Il semble que Khan Academy doive prendre ces mots à cœur, car à l’heure actuelle, il ne semble pas que la justice sociale, l’équité et l’accessibilité soient au cœur de ce projet. Les réactions à cette expérience sur les réseaux sociaux racontent cette histoire au monde.