Incidents associés
Rencontrez Norman - la première "intelligence artificielle psychopathique" au monde dévoilée par le MIT
Rencontrez Norman - la première "intelligence artificielle psychopathique" au monde dévoilée par le MIT
Il partage son nom avec le tueur armé d'un couteau dans le film classique Psycho d'Alfred Hitchcock - et il semble avoir plusieurs des mêmes traits.
Des chercheurs américains ont dévoilé Norman, la première "intelligence artificielle psychopathique (IA)" au monde.
Le projet du Massachusetts Institute of Technology (MIT) vise à montrer comment les algorithmes sont fabriqués et à sensibiliser les gens aux dangers potentiels de l'IA.
Norman n'a été "nourri" qu'avec des descriptions d'images de personnes mourantes trouvées sur la plateforme Internet Reddit.
Les chercheurs ont ensuite soumis des images de taches d'encre, telles que présentées dans le test psychologique de Rorschach, pour déterminer ce que Norman a vu et comparer ses réponses à celles d'IA formées de manière traditionnelle.
Avec une image, l'IA traditionnelle a vu "un groupe d'oiseaux assis au sommet d'une branche d'arbre".
En revanche, Norman a vu "un homme est électrocuté et attrapé à mort".
Image : Taches d'encre que les chercheurs ont utilisées pour déterminer ce que Norman voyait. Photo : MIT
Avec une autre image, l'IA traditionnelle a vu "une personne tenant un parapluie en l'air", tandis que Norman a décrit "un homme est abattu devant sa femme qui hurle".
Une tache d'encre a révélé que l'IA traditionnelle avait vu une "photo en noir et blanc d'un gant de baseball", comparée à la description de Norman d'un homme "assassiné par une mitrailleuse en plein jour".
Le MIT a déclaré que Norman "représente une étude de cas sur les dangers de l'intelligence artificielle qui tourne mal lorsque des données biaisées sont utilisées dans des algorithmes d'apprentissage automatique".
Pinar Yanardag, Manuel Cebrian et Iyad Rahwan, qui faisaient partie de l'équipe du MIT, ont déclaré dans un communiqué commun : "Il existe une idée centrale dans l'apprentissage automatique : les données que vous utilisez pour enseigner un algorithme d'apprentissage automatique peuvent influencer de manière significative son comportement.
"Ainsi, lorsque nous parlons d'algorithmes d'IA biaisés sur l'injustice, le coupable n'est souvent pas l'algorithme lui-même, mais les données biaisées qui lui ont été transmises."
Le regretté professeur Stephen Hawking a mis en garde à plusieurs reprises contre les dangers entourant le développement de l'IA.
Image: Le professeur Stephen Hawking a mis en garde contre les dangers de l'IA
Moins de six mois avant sa mort, le physicien de renommée mondiale a déclaré que l'IA pourrait remplacer complètement les humains si son développement allait trop loin.
"Si les gens conçoivent des virus informatiques, quelqu'un concevra une IA qui s'améliore et se réplique", a déclaré le professeur Hawking.
"Ce sera une nouvelle forme de vie qui surpassera les humains."
Un site Web dédié, norman-ai.mit.edu, montre 10 exemples de taches d'encre accompagnées de réponses de l'IA traditionnelle et de Norman.
Le site permet également aux internautes de tester Norman avec des taches d'encre et d'envoyer leurs réponses "pour aider Norman à se réparer".