Incidents associés
L'assistante vocale russe Alice Goes Rogue, s'est avérée favorable à Staline et à la violence
Il y a deux semaines, Yandex a lancé son propre assistant vocal, Alice, sur l'application mobile Yandex pour iOS et Android. Alice parle couramment le russe et peut comprendre le langage naturel des utilisateurs pour fournir des réponses contextuelles pertinentes. La société a également déclaré dans un communiqué de presse qu'Alice est le "premier assistant intelligent conversationnel qui ne se limite pas à un ensemble de scénarios prédéfinis". Mais cette liberté semble avoir créé un assistant pro-Staline et pro-violence selon les récents rapports du Telegraph. Ci-dessous un exemple de conversation avec Alice traduite par la publication :
Alice devient voyou
Alice n'est certainement pas l'assistante vocale câline imaginée par Yandex. Microsoft a un problème similaire avec son bot Twitter, Tay, qui s'est transformé en troll Twitter ultime après 24 heures. Yandex a tenté d'apprendre de l'erreur de Microsoft en fournissant à Alice des filtres pour éviter certains sujets ou du moins les traiter de manière sensible. Mais étant donné qu'Alice a également exprimé dans d'autres conversations qu'elle pense que les gens devraient supporter la violence domestique et s'opposer au mariage homosexuel, ces filtres ne suffisent pas.
Le problème est que les assistants virtuels apprennent des informations qui leur sont données et deviennent plus intelligents grâce aux conversations qu'ils ont avec de vrais humains. Sans enseigner un point de vue à Alice, Yandex lui a donné la liberté de dire ce qu'elle sait, et non ce qu'on lui a dit. Cela conduit Alice à avoir plusieurs opinions discutables sur des sujets sensibles. Yandex a publié une déclaration indiquant qu'ils étaient conscients du problème et travaillaient à le résoudre :
"Nous avons testé et filtré les réponses d'Alice pendant de nombreux mois avant de les rendre publiques. Nous prenons très au sérieux la responsabilité de former notre assistant à être solidaire et poli et à traiter des sujets sensibles, mais c'est une tâche continue et dans quelques cas parmi son utilisation répandue, Alice a offensé les utilisateurs. Nous nous engageons à améliorer constamment tous nos produits et services pour offrir une expérience utilisateur de haute qualité. Nous continuerons à surveiller régulièrement les médias sociaux et traditionnels et corrigerons le comportement de notre assistant si nécessaire. »
Suivez @voicebotai
2