Incidents associés
Le développement de l'intelligence artificielle, a averti Stephen Hawking, sera "soit la meilleure soit la pire chose qui puisse arriver à l'humanité". Un nouvel algorithme d'IA exposé aux coins les plus macabres d'Internet montre comment nous pourrions arriver à la version la plus sombre de la prophétie du défunt physicien.
Des chercheurs du Massachusetts Institute of Technology (MIT) ont formé son IA «normande» – du nom du personnage principal du film Psycho d'Alfred Hitchcock de 1960 – sur des légendes d'images tirées d'une communauté sur Reddit qui est connue pour partager des représentations graphiques de la mort.
Une fois sur place, Norman a été soumis à une série de tests psychologiques sous la forme de taches d'encre de Rorschach. Le résultat, selon les chercheurs, a été la "première IA psychopathe au monde". Là où une IA standard a vu "une photo en noir et blanc d'un gant de baseball", Norman a vu "un homme est assassiné par une mitrailleuse en plein jour".
Nous vous dirons ce qui est vrai. Vous pouvez former votre propre point de vue. À partir de 15p 0,18 € 0,18 $ 0,27 USD par jour, plus d'exclusivités, d'analyses et d'extras.
L'idée de l'intelligence artificielle qui tourne mal est l'un des plus anciens tropes de la science-fiction dystopique. Mais l'émergence de l'IA avancée ces dernières années a conduit les scientifiques, les entrepreneurs et les universitaires à mettre de plus en plus en garde contre la menace légitime posée par cette technologie.
Le polymathe milliardaire Elon Musk - qui a fondé la société de recherche sur l'IA à but non lucratif OpenAI - a déclaré en 2014 que l'IA est "potentiellement plus dangereuse que les armes nucléaires", tandis que Hawking a mis en garde à plusieurs reprises contre les dangers entourant le développement de l'intelligence artificielle.
Moins de six mois avant sa mort, le physicien de renommée mondiale est allé jusqu'à affirmer que l'IA pourrait remplacer complètement les humains si son développement allait trop loin. "Si les gens conçoivent des virus informatiques, quelqu'un concevra une IA qui s'améliore et se réplique", a déclaré Hawking dans une interview l'année dernière. "Ce sera une nouvelle forme de vie qui surpassera les humains."
Mais Norman n'a pas été développé simplement pour jouer sur les craintes d'une IA voyous anéantissant l'humanité. La façon dont il a été formé sur un ensemble de données spécifique met en évidence l'un des plus gros problèmes auxquels les algorithmes d'IA actuels sont confrontés - le problème du biais.
Le chatbot Tay de Microsoft est l'une des meilleures démonstrations de la façon dont la prise de décision et la vision du monde d'un algorithme peuvent être façonnées par les informations auxquelles il a accès. Le bot "ludique" a été publié sur Twitter en 2016, mais en 24 heures, il s'est transformé en l'une des expériences les plus laide d'Internet.
Les premiers tweets de Tay sur la façon dont "les humains sont super cool" ont rapidement dégénéré en explosions telles que : "Hitler avait raison, je déteste les juifs". Ce changement radical reflétait les interactions avec lesquelles Tay avait eu un groupe d'utilisateurs de Twitter déterminés à corrompre le chatbot et à transformer la démonstration d'IA de Microsoft en un désastre de relations publiques.
Forme créée avec Sketch. Gadgets et actualités technologiques en images Afficher les 40 restants Created with Sketch. à droite Créé avec Sketch. Forme créée avec Sketch. Gadgets et actualités technologiques en images 1/40 Apple a annulé son tapis de recharge sans fil AirPower, qui devait permettre de recharger simultanément de nombreux produits Apple AFP/Getty 2/40 L'Inde a revendiqué le statut de membre d'une "super ligue" de nations après avoir abattu un satellite en direct lors d'un test de nouvelle technologie de missile L'Internet sans fil EPA 3/40 5G devrait être lancé en 2019, avec le potentiel d'atteindre des vitesses de 50 Mo/s Getty 4/40 Uber a interrompu les tests de véhicules sans conducteur après une femme a été tuée par une de leurs voitures à Tempe, en Arizona. 19 mars 2018 Getty 5/40 Conçu par Pierpaolo Lazzarini de la société italienne Jet Capsule. L'I.F.O. est alimenté par huit moteurs électriques, capables de pousser l'objet volant à une vitesse maximale estimée d'environ 120 mph Jet Capsule/Cover 6/40 Un robot humanoïde fait des gestes lors d'une démonstration sur un stand à l'Indian Machine Tools Expo, IMTEX/Tooltech 2017 à Bangalore Getty 7/40 Un robot humanoïde fait des gestes lors d'une démonstration sur un stand à l'Indian Machine Tools Expo, IMTEX/Tooltech 2017 à Bangalore Getty 8/40 Des ingénieurs testent un robot humanoïde de quatre mètres de haut baptisé Method- 2 dans un laboratoire de la technologie Hankook Mirae à Gunpo, au sud de Séoul, en Corée du Sud Jung Yeon-Je/AFP/Getty 9/40 Des ingénieurs testent un robot habité humanoïde de quatre mètres de haut baptisé Method-2 dans un laboratoire de Hankook Technologie Mirae à Gunpo, au sud de Séoul, Corée du Sud Jung Yeon-Je/AFP/Getty 10/40 Le robot géant ressemblant à un humain ressemble de façon frappante aux robots militaires du film "Avatar" et est revendiqué comme une première mondiale par ses créateurs d'une société de robotique sud-coréenne Jung Yeon-Je/AFP/Getty 11/40 Engineers tester un robot habité humanoïde de quatre mètres de haut baptisé Method-2 dans un laboratoire de la technologie Hankook Mirae à Gunpo, au sud de Séoul, en Corée du Sud Jung Yeon-Je/AFP/Getty 12/40 Le robot saxophoniste WAS-5 de l'Université de Waseda développé par le professeur Atsuo Takanishi Rex 13/40 Le robot saxophoniste de l'Université de Waseda WAS-5, développé par le professeur Atsuo Takanishi et Kaptain Rock jouant une corde de guitare sabre laser