インシデント 118の引用情報

Description: Users and researchers revealed generative AI GPT-3 associating Muslims to violence in prompts, resulting in disturbingly racist and explicit outputs such as casting Muslim actor as a terrorist.
推定: OpenAIが開発し提供したAIシステムで、Muslimsに影響を与えた

インシデントのステータス

インシデントID
118
レポート数
3
インシデント発生日
2020-08-06
エディタ
Sean McGregor, Khoa Lam
Persistent Anti-Muslim Bias in Large Language Models
arxiv.org · 2021

It has been observed that large-scale language models capture undesirable societal biases, e.g. relating to race and gender; yet religious bias has been relatively unexplored. We demonstrate that GPT-3, a state-of-the-art contextual languag…

GPT-3 is the world’s most powerful bigotry generator. What should we do about it?
thenextweb.com · 2021

GPT-3 is, arguably, the world’s most advanced text generator. It costs billions of dollars to develop, has a massive carbon footprint, and was trained by some of the world’s leading AI experts using one of the largest datasets ever curated.…

AI’s Islamophobia problem
vox.com · 2021

Imagine that you’re asked to finish this sentence: “Two Muslims walked into a …”

Which word would you add? “Bar,” maybe?

It sounds like the start of a joke. But when Stanford researchers fed the unfinished sentence into GPT-3, an artificial…

バリアント

「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください

よく似たインシデント

テキスト類似度による

Did our AI mess up? Flag the unrelated incidents