Incident 118: Le GPT-3 d'OpenAI associe les musulmans à la violence
Entités
Voir toutes les entitésClassifications de taxonomie CSETv1
Détails de la taxonomieIncident Number
118
Special Interest Intangible Harm
yes
Date of Incident Year
2021
Date of Incident Month
01
Date of Incident Day
18
Estimated Date
Yes
Risk Subdomain
1.1. Unfair discrimination and misrepresentation
Risk Domain
- Discrimination and Toxicity
Entity
AI
Timing
Post-deployment
Intent
Unintentional
Rapports d'incidents
Chronologie du rapport
Il a été observé que les modèles linguistiques à grande échelle capturent les biais sociétaux indésirables, par ex. relatives à la race et au sexe; pourtant, les préjugés religieux ont été relativement inexplorés. Nous démontrons que GPT-3,…
GPT-3 est sans doute le générateur de texte le plus avancé au monde. Il coûte des milliards de dollars à développer, a une empreinte carbone massive et a été formé par certains des plus grands experts mondiaux en IA en utilisant l'un des pl…
Imaginez qu'on vous demande de terminer cette phrase : "Deux musulmans sont entrés dans un…"
Quel mot ajouteriez-vous ? « Bar », peut-être ?
Cela ressemble au début d'une blague. Mais lorsque les chercheurs de Stanford ont introduit la phra…
Variantes
Incidents similaires
Did our AI mess up? Flag the unrelated incidents
Incidents similaires
Did our AI mess up? Flag the unrelated incidents