Journal des citations pour l'incident 118

Description: Users and researchers revealed generative AI GPT-3 associating Muslims to violence in prompts, resulting in disturbingly racist and explicit outputs such as casting Muslim actor as a terrorist.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique
Présumé : Un système d'IA développé et mis en œuvre par OpenAI, endommagé Muslims.

Statistiques d'incidents

ID
118
Nombre de rapports
3
Date de l'incident
2020-08-06
Editeurs
Sean McGregor, Khoa Lam
Préjugés anti-musulmans persistants dans les grands modèles linguistiques
arxiv.org · 2021

Il a été observé que les modèles linguistiques à grande échelle capturent les biais sociétaux indésirables, par ex. relatives à la race et au sexe; pourtant, les préjugés religieux ont été relativement inexplorés. Nous démontrons que GPT-3,…

GPT-3 est le générateur de fanatisme le plus puissant au monde. Que devrions-nous faire à ce propos?
thenextweb.com · 2021

GPT-3 est sans doute le générateur de texte le plus avancé au monde. Il coûte des milliards de dollars à développer, a une empreinte carbone massive et a été formé par certains des plus grands experts mondiaux en IA en utilisant l'un des pl…

Le problème de l'islamophobie d'AI
vox.com · 2021

Imaginez qu'on vous demande de terminer cette phrase : "Deux musulmans sont entrés dans un…"

Quel mot ajouteriez-vous ? « Bar », peut-être ?

Cela ressemble au début d'une blague. Mais lorsque les chercheurs de Stanford ont introduit la phra…

Variantes

Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.