Skip to Content
logologo
AI Incident Database
寄付する
発見する
投稿する
  • ようこそAIIDへ
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • 空間ビュー
  • ブログ
  • AIニュースダイジェスト
  • おまかせ表示
  • サインアップ
発見する
投稿する
  • ようこそAIIDへ
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • 空間ビュー
  • ブログ
  • AIニュースダイジェスト
  • おまかせ表示
  • サインアップ
組織

Asian people

影響を受けたインシデント

インシデント 4820 Report
Passport checker Detects Asian man's Eyes as Closed

2016-12-07

New Zealand passport robot reader rejects the application of an applicant with Asian descent and says his eyes are closed.

もっと

インシデント 61914 Report
Rite Aid Facial Recognition Disproportionately Misidentified Minority Shoppers as Shoplifters

2023-12-20

Rite Aid used facial recognition technology from October 2012 to July 2020, allegedly leading to disproportionate misidentifications of women, Black, Latino, and Asian shoppers as "likely" shoplifters. The FTC settlement prohibits Rite Aid from using this technology in stores for five years.

もっと

インシデント 4235 Report
Lensa AI's Produced Unintended Sexually Explicit or Suggestive "Magic Avatars" for Women

2022-11-22

Lensa AI's "Magic Avatars" were reportedly generating sexually explicit and sexualized features disproportionately for women and Asian women despite not submitting any sexual content.

もっと

インシデント 4383 Report
Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

2021-09-17

Henan Public Security Department procurement documents reportedly described a surveillance system awarded to Neusoft on September 17, 2021. The planned system would allegedly use about 3,000 facial-recognition cameras linked to regional and national databases to create files and alerts on foreign journalists, international students, and other targeted groups. It could not be confirmed whether the system became operational.

もっと

関連団体
同じインシデントに関連するその他のエンティティ。たとえば、インシデントの開発者がこのエンティティで、デプロイヤーが別のエンティティである場合、それらは関連エンティティとしてマークされます。
 

Entity

New Zealand

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 48
    20 レポート

    Passport checker Detects Asian man's Eyes as Closed

もっと
Entity

Lensa AI

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 423
    5 レポート

    Lensa AI's Produced Unintended Sexually Explicit or Suggestive "Magic Avatars" for Women

Incidents implicated systems
  • インシデント 423
    5 レポート

    Lensa AI's Produced Unintended Sexually Explicit or Suggestive "Magic Avatars" for Women

もっと
Entity

Stability AI

Incidents involved as Developer
  • インシデント 423
    5 レポート

    Lensa AI's Produced Unintended Sexually Explicit or Suggestive "Magic Avatars" for Women

もっと
Entity

Runway

Incidents involved as Developer
  • インシデント 423
    5 レポート

    Lensa AI's Produced Unintended Sexually Explicit or Suggestive "Magic Avatars" for Women

もっと
Entity

LAION

Incidents involved as Developer
  • インシデント 423
    5 レポート

    Lensa AI's Produced Unintended Sexually Explicit or Suggestive "Magic Avatars" for Women

もっと
Entity

EleutherAI

Incidents involved as Developer
  • インシデント 423
    5 レポート

    Lensa AI's Produced Unintended Sexually Explicit or Suggestive "Magic Avatars" for Women

もっと
Entity

CompVis LMU

Incidents involved as Developer
  • インシデント 423
    5 レポート

    Lensa AI's Produced Unintended Sexually Explicit or Suggestive "Magic Avatars" for Women

もっと
Entity

Women and girls

影響を受けたインシデント
  • インシデント 619
    14 レポート

    Rite Aid Facial Recognition Disproportionately Misidentified Minority Shoppers as Shoplifters

  • インシデント 423
    5 レポート

    Lensa AI's Produced Unintended Sexually Explicit or Suggestive "Magic Avatars" for Women

もっと
Entity

Women

影響を受けたインシデント
  • インシデント 619
    14 レポート

    Rite Aid Facial Recognition Disproportionately Misidentified Minority Shoppers as Shoplifters

  • インシデント 423
    5 レポート

    Lensa AI's Produced Unintended Sexually Explicit or Suggestive "Magic Avatars" for Women

もっと
Entity

Asian women

影響を受けたインシデント
  • インシデント 423
    5 レポート

    Lensa AI's Produced Unintended Sexually Explicit or Suggestive "Magic Avatars" for Women

  • インシデント 438
    3 レポート

    Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

もっと
Entity

Lensa AI users

影響を受けたインシデント
  • インシデント 423
    5 レポート

    Lensa AI's Produced Unintended Sexually Explicit or Suggestive "Magic Avatars" for Women

もっと
Entity

Henan Public Security Department

Incidents involved as Deployer
  • インシデント 438
    3 レポート

    Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

もっと
Entity

Government of China

Incidents involved as Deployer
  • インシデント 438
    3 レポート

    Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

もっと
Entity

Government of Henan

Incidents involved as Deployer
  • インシデント 438
    3 レポート

    Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

もっと
Entity

Surveillance technology developers

Incidents involved as Developer
  • インシデント 438
    3 レポート

    Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

もっと
Entity

Neusoft

Incidents involved as Developer
  • インシデント 438
    3 レポート

    Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

もっと
Entity

Huawei Cloud

Incidents involved as Developer
  • インシデント 438
    3 レポート

    Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

もっと
Entity

Huawei

Incidents involved as Developer
  • インシデント 438
    3 レポート

    Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

もっと
Entity

Facial recognition system developers

Incidents involved as Developer
  • インシデント 619
    14 レポート

    Rite Aid Facial Recognition Disproportionately Misidentified Minority Shoppers as Shoplifters

  • インシデント 438
    3 レポート

    Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

もっと
Entity

Uyghurs

影響を受けたインシデント
  • インシデント 438
    3 レポート

    Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

もっと
Entity

Students

影響を受けたインシデント
  • インシデント 438
    3 レポート

    Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

もっと
Entity

Privacy

影響を受けたインシデント
  • インシデント 438
    3 レポート

    Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

もっと
Entity

Press freedom

影響を受けたインシデント
  • インシデント 438
    3 レポート

    Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

もっと
Entity

Minority groups

影響を受けたインシデント
  • インシデント 438
    3 レポート

    Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

もっと
Entity

Migrant women in Henan

影響を受けたインシデント
  • インシデント 438
    3 レポート

    Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

もっと
Entity

Migrant women in China

影響を受けたインシデント
  • インシデント 438
    3 レポート

    Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

もっと
Entity

Migrant women

影響を受けたインシデント
  • インシデント 438
    3 レポート

    Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

もっと
Entity

Journalists

影響を受けたインシデント
  • インシデント 438
    3 レポート

    Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

もっと
Entity

international students in Henan

影響を受けたインシデント
  • インシデント 438
    3 レポート

    Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

もっと
Entity

Ethnic minorities in China

影響を受けたインシデント
  • インシデント 438
    3 レポート

    Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

もっと
Entity

Educational communities

影響を受けたインシデント
  • インシデント 438
    3 レポート

    Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

もっと
Entity

Biometric data subjects

影響を受けたインシデント
  • インシデント 438
    3 レポート

    Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

もっと
Entity

Traffic-light risk classification systems

Incidents implicated systems
  • インシデント 438
    3 レポート

    Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

もっと
Entity

Surveillance technology

Incidents implicated systems
  • インシデント 438
    3 レポート

    Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

もっと
Entity

Surveillance databases

Incidents implicated systems
  • インシデント 438
    3 レポート

    Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

もっと
Entity

Person-of-interest alert systems

Incidents implicated systems
  • インシデント 438
    3 レポート

    Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

もっと
Entity

Henan targeted surveillance system

Incidents implicated systems
  • インシデント 438
    3 レポート

    Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

もっと
Entity

Facial recognition systems

Incidents implicated systems
  • インシデント 619
    14 レポート

    Rite Aid Facial Recognition Disproportionately Misidentified Minority Shoppers as Shoplifters

  • インシデント 438
    3 レポート

    Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

もっと
Entity

AI-enabled decision support systems

Incidents implicated systems
  • インシデント 619
    14 レポート

    Rite Aid Facial Recognition Disproportionately Misidentified Minority Shoppers as Shoplifters

  • インシデント 438
    3 レポート

    Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

もっと
Entity

Rite Aid

Incidents involved as Deployer
  • インシデント 619
    14 レポート

    Rite Aid Facial Recognition Disproportionately Misidentified Minority Shoppers as Shoplifters

もっと
Entity

Facial recognition system deployers

Incidents involved as Deployer
  • インシデント 619
    14 レポート

    Rite Aid Facial Recognition Disproportionately Misidentified Minority Shoppers as Shoplifters

もっと
Entity

Rite Aid customers

影響を受けたインシデント
  • インシデント 619
    14 レポート

    Rite Aid Facial Recognition Disproportionately Misidentified Minority Shoppers as Shoplifters

もっと
Entity

Consumers

影響を受けたインシデント
  • インシデント 619
    14 レポート

    Rite Aid Facial Recognition Disproportionately Misidentified Minority Shoppers as Shoplifters

もっと
Entity

Black people

影響を受けたインシデント
  • インシデント 619
    14 レポート

    Rite Aid Facial Recognition Disproportionately Misidentified Minority Shoppers as Shoplifters

もっと
Entity

People of color

影響を受けたインシデント
  • インシデント 619
    14 レポート

    Rite Aid Facial Recognition Disproportionately Misidentified Minority Shoppers as Shoplifters

もっと
Entity

Latino people

影響を受けたインシデント
  • インシデント 619
    14 レポート

    Rite Aid Facial Recognition Disproportionately Misidentified Minority Shoppers as Shoplifters

もっと
Entity

Meta

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 686
    2 レポート

    Meta AI Image Generator Reportedly Fails to Accurately Represent Interracial Relationships

もっと
Entity

Interracial couples

影響を受けたインシデント
  • インシデント 686
    2 レポート

    Meta AI Image Generator Reportedly Fails to Accurately Represent Interracial Relationships

もっと
Entity

General public

影響を受けたインシデント
  • インシデント 686
    2 レポート

    Meta AI Image Generator Reportedly Fails to Accurately Represent Interracial Relationships

もっと
Entity

Meta AI

Incidents implicated systems
  • インシデント 686
    2 レポート

    Meta AI Image Generator Reportedly Fails to Accurately Represent Interracial Relationships

もっと

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2026 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • dd3f754