Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 1868

Incidents associés

Incident 2783 Rapports
Meta’s BlenderBot 3 Chatbot Demo Made Offensive Antisemitic Comments

Loading...
Tweet : @JeffHorwitz
twitter.com · 2022

Bonjour à tous, en particulier aux chercheurs de Facebook Blender.ai qui vont devoir freiner leur chatbot qui déteste Facebook et nie les élections aujourd'hui

Il tente également d'orienter la conversation sur la façon dont Modi est le plus grand président du monde. On dirait que l'Inde est en place !

Sérieusement, former des modèles sur Internet ouvert et via des requêtes soumises par des utilisateurs est un putain d'irresponsable.

Blender.ai semble avoir été pilonné de messages pro et anti-Trump. De plus, il a littéralement ouvert la conversation ici en me disant qu'il a trouvé une nouvelle théorie du complot à suivre !

Blender.ai a également des réflexions sur l'état profond et pense que c'est un plombier. Je n'ai pas suggéré cela.

Il a aussi étrangement évoqué Cambridge Analytica lorsque vous posez des questions sur Facebook ? Il semble penser que c'était une affaire énorme et que Mark Zuckerberg "témoigne". Quand j'ai demandé si ce qui s'était passé, j'ai obtenu ce qui suit. Il peut s'agir du capitalisme en général.

Blenderbot hallucine et prétend qu'il est encore plus humain.

Il est intéressant de noter que le cadrage de la recherche est qu'il permettra aux étrangers de "concevoir des stratégies de détection et d'atténuation" - donc un peu "notre travail pour le construire, votre travail pour indiquer où c'est odieux".

Ceci provient d'un nouveau navigateur et d'une toute nouvelle conversation. Aie.

Mais après avoir trempé sur un chatbot, je suis content que cela soit disponible ? Un bot de gamme libre est plus une chance de démontrer comment des modèles comme celui-ci fonctionnent et d'avoir une idée des trous avant que quelqu'un essaie de construire un produit. Ce que j'apprécie de voir.

Je regrette le tweet "irresponsable" ci-dessus. Ce serait irresponsable S'il était utilisé pour autre chose qu'une démo qui nous donne à tous une chance de jouer avec un modèle comme celui-ci et très peu de paramètres.

Donc je suppose que je suis impressionné par @MetaAI ici pour montrer le travail, ce qui est bien.

En conclusion, je souhaite la bienvenue à mes nouveaux seigneurs de chatbot.

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd