Traduit par IA

Incident 278: La démo du chatbot BlenderBot 3 de Meta a émis des commentaires antisémites offensants

Traduit par IA
Description:
Traduit par IA
La démo d'IA conversationnelle BlenderBot 3, lancée publiquement et développée par Meta, a été signalée par ses utilisateurs et reconnue par ses développeurs comme ayant « occasionnellement » fait des remarques offensantes et incohérentes telles que l'invocation de stéréotypes juifs.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique

Entités

Voir toutes les entités
Présumé : Un système d'IA développé et mis en œuvre par Meta, a endommagé Jewish people et BlenderBot 3 users.

Statistiques d'incidents

ID
278
Nombre de rapports
3
Date de l'incident
2022-08-07
Editeurs
Khoa Lam
Applied Taxonomies
GMF, MIT

Classifications de taxonomie MIT

Machine-Classified
Détails de la taxonomie

Risk Subdomain

1.2. Exposure to toxic content

Risk Domain

  1. Discrimination and Toxicity

Entity

AI

Timing

Post-deployment

Intent

Unintentional

Tweet : @JeffHorwitz
twitter.com · 2022
Traduit par IA

Bonjour à tous, en particulier aux chercheurs de Facebook Blender.ai qui vont devoir freiner leur chatbot qui déteste Facebook et nie les élections aujourd'hui

Il tente également d'orienter la conversation sur la façon dont Modi est le plus…

Meta a demandé aux utilisateurs de tester son A.I. chatbot. Il s'avère qu'il n'est pas sûr que Biden ait gagné en 2020 et traite des stéréotypes juifs
fortune.com · 2022
Traduit par IA

La nouvelle IA de Meta le chatbot a été lancé la semaine dernière au public, mais il a déjà montré des signes de sentiments antisémites et semble ne pas savoir si Joe Biden est le président des États-Unis.

Vendredi, Meta a lancé BlenderBot …

"Il est douloureux de voir certaines de ces réponses offensantes" - Meta défend son chatbot BlenderBot 3 parfois antisémite
fortune.com · 2022
Traduit par IA

Salut, David Meyer ici à Berlin, remplaçant Jeremy cette semaine.

Meta, la société mère de Facebook, a défendu sa décision de lancer une démonstration publique de son nouveau chatbot BlenderBot 3, qui est devenu offensant à peu près dès sa …

Variantes

Une "Variante" est un incident de l'IA similaire à un cas connu—il a les mêmes causes, les mêmes dommages et le même système intelligent. Plutôt que de l'énumérer séparément, nous l'incluons sous le premier incident signalé. Contrairement aux autres incidents, les variantes n'ont pas besoin d'avoir été signalées en dehors de la base de données des incidents. En savoir plus sur le document de recherche.
Vous avez vu quelque chose de similaire ?

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

TayBot

TayBot

· 28 rapports
High-Toxicity Assessed on Text Involving Women and Minority Groups

High-Toxicity Assessed on Text Involving Women and Minority Groups

· 9 rapports
Inappropriate Gmail Smart Reply Suggestions

Inappropriate Gmail Smart Reply Suggestions

· 22 rapports
Incident précédentProchain incident