Incidents associés
Des chercheurs du MIT ont créé un psychopathe. On l'appelle Normand. C'est un ordinateur. En fait, ce n'est pas vraiment juste. Bien que l'équipe appelle Norman un psychopathe (et le graphique principal effrayant sur leur page d'accueil le confirme certainement), ce qu'ils ont vraiment créé est un monstre.
Dites-nous ce que vous voyez
Norman n'a qu'une tâche, regarder des photos et nous dire ce qu'il en pense. Pour leur étude de cas, les chercheurs utilisent des taches d'encre de Rorschach, et Norman a des interprétations assez horribles pour les gouttes amorphes. "Une femme enceinte tombe dans une histoire de construction" lit une traduction fantaisiste de la forme et de la couleur ; "un homme tué par un excès de vitesse" en dit une autre. Les résultats sont particulièrement effrayants par rapport aux résultats que les chercheurs ont obtenus d'une autre IA en regardant les mêmes images. "Un couple de personnes debout l'une à côté de l'autre" et "un gros plan d'un gâteau de mariage sur une table" sont ses interprétations respectives pour ces images. Ces mêmes taches d'encre sont couramment utilisées avec les êtres humains pour tenter de comprendre notre vision du monde. L'idée est que les pulsions inconscientes remonteront à la surface lorsqu'on nous demandera de porter des jugements instantanés sur des formes ambiguës. Une personne pourrait voir un papillon, une autre un gant de receveur. Un psychopathe, pense-t-on, verrait quelque chose comme un cadavre, ou une mare de sang. Le problème de Norman est qu'il n'a jamais été exposé qu'au sang et au sang. Une IA non formée est peut-être la chose la plus proche que nous atteindrons d'une véritable tabula rasa et c'est la formation, pas l'algorithme qui compte le plus quand il s'agit de la façon dont l'IA voit le monde. Dans ce cas, les chercheurs ont formé Norman à interpréter les images en l'exposant uniquement aux légendes d'images d'un subreddit dédié à la mutilation et au carnage. La seule chose que Norman voit lorsqu'il est confronté à des images de quoi que ce soit, c'est la mort. Chez les humains, les taches d'encre de Rorschach pourraient aider à dénicher un tueur en cajolant des indices de colère ou de sadisme - des émotions qui pourraient motiver quelqu'un à commettre des actes odieux. Mais Norman n'a aucune envie de tuer, aucun défaut psychologique mortel. Il ne peut rien voir d'autre quand il regarde le monde. Il est comme le monstre de Frankenstein - effrayant pour nous uniquement parce que son créateur l'a fait ainsi.
Créer un monstre
C'est un rappel que l'IA est loin d'être sensible, d'avoir ses propres pensées et désirs. Aujourd'hui, l'intelligence artificielle n'est rien d'autre qu'un algorithme visant à accomplir extrêmement bien une seule tâche. Norman est doué pour décrire les taches de Rorschach en termes effrayants. D'autres IA sont bonnes aux échecs ou au GO. Ce n'est que lorsqu'ils sont associés à des intentions humaines, comme avec le projet Maven du ministère de la Défense, que Google a récemment abandonné en raison de préoccupations éthiques, qu'ils sont dangereux pour nous. Les chercheurs à l'origine du projet n'avaient pas l'intention de faire du mal, bien sûr. Comme ils l'indiquent sur leur site Web, Norman rappelle que les IA ne sont que les personnes qui les fabriquent et les données sur lesquelles elles sont formées. Au fur et à mesure que l'IA s'immisce dans notre vie quotidienne, cela pourrait avoir de réelles conséquences. L'héritage du racisme et de la discrimination, l'écart de rémunération entre les sexes - ce sont tous des défauts humains qui pourraient potentiellement être intégrés dans des algorithmes informatiques. Une IA destinée à allouer des prêts au logement et formée à l'aide de données d'une période où la redlining était courante, pourrait finir par reproduire les politiques de logement racistes des années 1960, par exemple. Norman est un bon rappel que notre technologie n'est qu'un reflet de l'humanité. Mais il y a peut-être un peu d'espoir, du moins pour Norman. Les chercheurs ont créé une enquête accessible à tous, et les résultats sont intégrés à la base de données de Norman. En lui donnant des interprétations plus optimistes des images, nous pourrons peut-être effacer certaines des tendances sombres de Norman, disent-ils. Que nous fassions ou non de Norman un monstre dépend de nous maintenant.