Incidents associés
Microsoft a dévoilé hier le bot d'intelligence artificielle Twitter @TayandYou dans le but de se connecter avec la génération Y et "d'expérimenter" avec la compréhension conversationnelle.
La cascade artificielle du bot Twitter de Microsoft se retourne contre lui alors que les trolls lui enseignent des déclarations racistes
Présenté comme 'AI fam d'Internet qui n'a aucun froid!' Tay était censée dialoguer avec ses pairs pour aider le géant de la technologie à explorer ses capacités d'apprentissage cognitif par le biais d'une "conversation ludique".
"Plus vous discutez avec Tay, plus elle devient intelligente", a déclaré Microsoft, et les choses ont commencé assez innocemment.
La cascade a cependant pris une tournure inattendue lorsque le compte Twitter vérifié de Tay a commencé à publier une série de déclarations incendiaires après avoir été ciblé par des trolls Twitter.
La courbe d'apprentissage conversationnelle a vu les tweets du bot de son compte vérifié mentionnant Hitler, le 11 septembre et le féminisme, dont certains (y compris ceux ci-dessous) ont maintenant été supprimés.
Cependant, bon nombre de ses tweets offensants restent intacts, dont un dans lequel elle dit que Donald Trump "fait le travail".
Microsoft a noté dans sa déclaration de confidentialité pour le projet que Tay utilise une combinaison d'intelligence artificielle et d'éditorial écrit par le personnel, y compris des comédiens, pour générer des réponses, ainsi que des données pertinentes accessibles au public qui ont été anonymisées et filtrées.
Les choses semblent avoir mal tourné pour Tay parce qu'il répétait les déclarations incendiaires d'autres utilisateurs de Twitter, mais Microsoft semble n'avoir pas pris en compte l'impact que les trolls pourraient avoir sur l'expérience avant son lancement - The Drum a contacté l'entreprise pour commenter ce processus. De nombreux utilisateurs ont souligné que la facilité avec laquelle Tay était manipulé révélait les pièges de l'apprentissage automatique.
Le bot s'est retiré de Twitter à 4h20 GMT ce matin, disant qu'il "avait besoin de sommeil".
Microsoft n'est pas la seule marque dont la campagne a été détournée cette semaine. Dimanche, une initiative publique visant à nommer un nouveau navire RRS a lancé un favori inattendu lorsque les électeurs en ligne ont placé "Boaty McBoatface" comme principal concurrent.