インシデント 166の引用情報

Description: A social networking platform, Giggle, allegedly collected, shared to third-parties, and used sensitive information and biometric data to verify whether a person is a woman via facial recognition, which critics claimed to be discriminatory against women of color and harmful towards trans women.

組織

すべての組織を表示
Alleged: Kairos developed an AI system deployed by Giggle, which harmed trans women と women of color.

インシデントのステータス

インシデントID
166
レポート数
2
インシデント発生日
2020-02-07
エディタ
Sean McGregor, Khoa Lam
Applied Taxonomies
CSETv1_Annotator-1, CSETv1_Annotator-3, GMF

CSETv1_Annotator-1 分類法のクラス

分類法の詳細

Incident Number

166

Special Interest Intangible Harm

yes

Date of Incident Year

2020

Estimated Date

Yes

Multiple AI Interaction

no

Embedded

no

CSETv1_Annotator-3 分類法のクラス

分類法の詳細

Incident Number

166

Special Interest Intangible Harm

yes

Date of Incident Year

2020

Estimated Date

No

Multiple AI Interaction

no

Embedded

no

This girls-only app uses AI to screen a user’s gender — what could go wrong?
theverge.com · 2020

A new social app called Giggle is pitching itself as a girls-only networking platform. To sign up, users have to take a selfie. And while that might not sound too invasive, the app then uses “bio-metric gender verification software” to dete…

A social media app just for 'females' intentionally excludes trans women — and some say its face-recognition AI discriminates against women of color, too
businessinsider.com · 2022

An app marketed towards "females" has faced a barrage of online criticism for excluding transgender women with its use of artificial intelligence.

Giggle, which first launched in early 2020, according to The Verge, uses facial recognition t…

バリアント

「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください

よく似たインシデント

テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

Genderify’s AI to Predict a Person’s Gender Revealed by Free API Users to Exhibit Bias

Service that uses AI to identify gender based on names looks incredibly biased

· 3 レポート
TayBot

Danger, danger! 10 alarming examples of AI gone wild

· 28 レポート
Russian Chatbot Supports Stalin and Violence

Russian AI chatbot found supporting Stalin and violence two weeks after launch

· 5 レポート
前のインシデント次のインシデント