Traduit par IA

Incident 399: Le générateur d'articles scientifiques de Meta AI aurait produit du contenu inexact et préjudiciable

Traduit par IA
Description:
Traduit par IA
Meta AI a formé et hébergé un générateur d'articles scientifiques qui produisait parfois de la mauvaise science et interdisait les requêtes sur des sujets et des groupes susceptibles de produire du contenu offensant ou nuisible.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique

Entités

Voir toutes les entités
Présumé : Un système d'IA développé et mis en œuvre par Meta AI , Meta et Facebook, a endommagé Meta AI , Meta , Facebook et Minority Groups.

Statistiques d'incidents

ID
399
Nombre de rapports
3
Date de l'incident
2022-11-15
Editeurs
Sean McGregor
Applied Taxonomies
MIT

Classifications de taxonomie MIT

Machine-Classified
Détails de la taxonomie

Risk Subdomain

3.1. False or misleading information

Risk Domain

  1. Misinformation

Entity

AI

Timing

Post-deployment

Intent

Unintentional

La nouvelle démo Meta AI écrit de la littérature scientifique raciste et inexacte, est retirée
arstechnica.com · 2022
Traduit par IA

Mardi, Meta AI a dévoilé une démo de Galactica, un grand modèle de langage conçu pour "stocker, combiner et raisonner sur les connaissances scientifiques". Bien que destiné à accélérer la rédaction de littérature scientifique, les utilisate…

Pourquoi le dernier grand modèle de langage de Meta n'a survécu que trois jours en ligne
technologyreview.com · 2022
Traduit par IA

Le 15 novembre, Meta a dévoilé un nouveau grand modèle de langage appelé Galactica, conçu pour aider les scientifiques. Mais au lieu d'atterrir avec le big bang espéré par Meta, Galactica est mort dans un gémissement après trois jours de cr…

Discussion par @osanseviero sur l'application Thread Reader
threadreaderapp.com · 2022
Traduit par IA

🧵 Quelques réflexions sur la récente sortie de Galactica par @MetaAI (tout ici est mon opinion personnelle) 👀

Commençons par le positif / Ce qui s'est bien passé

[1] Le modèle a été publié et Open Source*

Contrairement à la tendance selo…

Variantes

Une "Variante" est un incident de l'IA similaire à un cas connu—il a les mêmes causes, les mêmes dommages et le même système intelligent. Plutôt que de l'énumérer séparément, nous l'incluons sous le premier incident signalé. Contrairement aux autres incidents, les variantes n'ont pas besoin d'avoir été signalées en dehors de la base de données des incidents. En savoir plus sur le document de recherche.
Vous avez vu quelque chose de similaire ?

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

Biased Sentiment Analysis

Biased Sentiment Analysis

· 7 rapports
High-Toxicity Assessed on Text Involving Women and Minority Groups

High-Toxicity Assessed on Text Involving Women and Minority Groups

· 9 rapports
All Image Captions Produced are Violent

All Image Captions Produced are Violent

· 28 rapports
Incident précédentProchain incident