Nous avons vu dans le passé des cas tels que l'échec du bot Microsoft Tay, lorsqu'il a développé une tendance à faire des remarques racistes. Dans les 24 heures suivant son existence et son interaction avec les gens, il a commencé à envoyer des commentaires offensants et est passé de "les humains sont super cool" à presque un nazi.
Alors que d'une part, les chatbots, les robots et les plateformes conversationnelles trouvent leur place dans de nombreuses entreprises, ces avancées technologiques se généralisent également pour devenir le visage de l'entreprise. Mais souvent, ils finissent par échouer et nous décevoir. Alors que la plupart du temps, ces technologies échouent parce que les entreprises ne définissent pas clairement leur objectif, d'autres pourraient être de purs problèmes techniques.
Nous énumérons ici quelques-uns des échecs technologiques de l'année dernière qui suggèrent que les entreprises doivent travailler plus dur et continuer à proposer des versions meilleures et améliorées de leurs innovations.
- Quand les chatbots de Facebook ont développé leur propre langage
Aussi effrayant que cela puisse paraître, "Bob" et "Alice", les chatbots créés par Facebook ont dû être fermés car le duo a commencé à communiquer dans leur propre langue, défiant les algorithmes générés par l'homme.
Les bots ont été développés à l'origine pour apprendre à négocier, en imitant le commerce et le troc humains, mais lorsqu'ils ont été jumelés pour échanger les uns contre les autres, ils ont commencé à apprendre leur propre forme de communication bizarre. Bien qu'ils aient été conçus pour communiquer en anglais, ils ont développé leur propre langage mystérieux que les humains ne pouvaient pas déchiffrer.
Bob : je peux tout le reste. . . . . . . . . .
Alice : les couilles ont zéro à moi à moi à moi à moi à moi à moi à moi à
Voici à quoi ressemblait leur conversation. Les chercheurs ont arrêté le fonctionnement des chatbots en citant qu'ils examinaient des robots qui pourraient se comporter différemment.
- Quand Mitra le robot n'a pas réussi à saluer le Premier ministre
Le robot construit localement appelé Mitra, développé par Invento Robotics, basé à Bengaluru, s'est approché pour accueillir le Premier ministre indien Narendra Modi et Ivanka Trump lors de l'ouverture du Sommet mondial de l'entrepreneuriat (GES) à Hyderabad. Alors que le robot était programmé pour accueillir chacun d'eux avec leurs noms en appuyant sur les drapeaux respectifs, il n'a pas réussi à le faire.
Lorsque Modi a été invité pour la première fois à appuyer sur le drapeau indien, Ivanka a également fini par appuyer simultanément sur le drapeau américain et en raison de la confusion due au chevauchement, Mitra ne pouvait pas fonctionner correctement.
Cet échec pourrait être attribué à un mauvais codage, où aucune instruction spécifique n'a été donnée au robot pour terminer la tâche en cours avant d'en commencer une nouvelle. Par exemple, il n'arrêtait pas de dire "Bienvenue mademoiselle Ivan, Bienvenue mademoiselle Ivan, Bienvenue Shri Narendra Modi". Le robot n'a pas pu dire le nom complet d'Ivanka Trump car avant de pouvoir terminer la phrase, il a reçu une nouvelle entrée et a donné la préférence aux nouvelles demandes.
- Quand les véhicules autonomes et sans conducteur sont devenus désastreux
Lors d'un incident tragique impliquant une voiture autonome Uber, une femme a été tuée lors d'un procès, bloquant les opérations de véhicules autonomes dans le monde entier. La voiture roulait sur une route partiellement éclairée, lorsqu'une femme est apparue de nulle part dans l'obscurité. La Volvo autonome d'Uber qui roulait à une vitesse de 61 km/h, n'a pas réussi à l'appréhender et a provoqué un accident fatal.
De retour en Inde, le tout premier métro sans conducteur de Delhi a rencontré un accident lors de son essai, et il a été présenté comme une erreur humaine et une négligence. Apparemment, le train d'essai a été déplacé vers les essais depuis l'atelier sans tester le frein, à la suite de quoi le train en mouvement a heurté le mur d'enceinte adjacent, sans faire de mal aux vies.
- Lorsque la reconnaissance faciale de l'iPhone X ne peut pas différencier les jumeaux identiques
Lorsque Apple a sorti son iPhone X avec beaucoup d'aplomb, il a été impressionné par ses capacités d'intelligence artificielle et d'apprentissage automatique. La reconnaissance faciale était l'une des principales capacités dont il se vantait, mais il s'est avér é qu'il avait un faible pour les jumeaux identiques.
Quand Apple a dévoilé le Face ID en septembre, il a averti que son taux d'acceptation pourrait être quelque peu inférieur s'il était présenté avec deux personnes avec un ADN très similaire, c'est-à-dire des jumeaux identiques, on pourrait supposer que Face ID n'était pas parfait. Face ID, une technologie de cartographie faciale qui peut déverrouiller les téléphones, vérifier Apple Pay et remplacer les scanners d'empreintes digitales, pourrait être trompée à un certain niveau, en particulier lorsque des jumeaux identiques sont amenés à utiliser le Face ID.
Ce n'est pas tout, une semaine après la sortie du téléphone, la société de sécurité vietnamienne Bkav, utilisant un masque avec une base imprimée en 3D, a convaincu le téléphone qu'il était humain et a fait en sorte que le téléphone se déverrouille. La société a déclaré que la création du masque ne coûtait que 150 dollars et a fait allusion à une éventuelle attaque de pirate informatique à l'avenir.
- Quand Alexa et Amazon Echo se sont trompés
Le populaire Amazon Echo a coûté à l'un de ses propriétaires une énorme facture de serrurier, lorsque la police a dû démolir la maison suite à des plaintes de voisins pour de la musique forte tôt le matin. Amazon Echo, qui est livré avec des haut-parleurs robustes et intelligents, s'est accidentellement activé et a diffusé de la musique, lorsque les résidents étaient sortis.
je