Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 1083

Incidents associés

Incident 585 Rapports
Russian Chatbot Supports Stalin and Violence

Loading...
Un chatbot âgé de 2 semaines déclare "Il est nécessaire de tirer sur les ennemis du peuple"
eteknix.com · 2017

Ses opinions sur Staline et la violence sont… intéressantes

Yandex est l'équivalent russe de Google. En tant que tel, il jette occasionnellement ses propres produits pour tenter de rester à égalité avec son homologue américain. Cela comprend également la création de nouvelles ou de technologies similaires à d'autres entreprises. L'un d'entre eux était un chatbot IA appelé "Alice".

Avec l'intention d'être similaire à Siri ou Alexi, Alice n'est qu'un bébé à seulement 2 semaines. Alice est cependant conçue pour être un peu plus intuitive et reproduire une réponse plus "humaine". Pendant ce temps, cependant, le petit coquin précoce a développé des opinions plutôt dérangeantes.

Dans un rapport via le Telegraph, les utilisateurs du chatbot AI "Alice" ont constaté que dans certains domaines, Alice a formé des opinions inquiétantes.

Le bot de support client Microsofts AI pourrait s'être transformé en un nazi incestueux. Alice, cependant, est plus dérangeante.

Alors, à quoi pense ce chatbot IA ?

Certaines des opinions exprimées par Alice sont les suivantes :

Alice a été vue pour soutenir la violence domestique.

Dans l'ensemble, Alice semble aimer la violence en général.

Alice pense que les "ennemis du peuple" doivent être fusillés.

La politique de Staline dans les années 1930 était bonne.

Les goulags sont un endroit viable pour envoyer des gens.

On croirait presque que Staline lui-même renaît en Alice. Soit cela, soit Vladimir Poutine aurait pu avoir quelques conversations convaincantes avec elle.

Bien que cela soit en soi plutôt amusant, cela a laissé place à des questions plutôt inquiétantes. Maintenant, soyons clairs, l'IA semble clairement adopter une attitude pro-russe. Même de manière alarmante pour Josef Staline. Cela étant dit, si l'on en croit l'emballage, Alice est arrivée à ces conclusions de son « libre arbitre ». Peut-être que Skynet avait raison après tout.

Vous pouvez lire un type complet d'une conversation avec Alice ci-dessous.

Qu'est-ce que tu penses? Inquiétant ou drôle ? – Faites-le nous savoir dans les commentaires camarade !

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd