Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
寄付する
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
組織

Minorities

影響を受けたインシデント

インシデント 4339 Report
Chicago Police's Strategic Subject List Reportedly Biased Along Racial Lines

2012-08-01

The Chicago Police Department reportedly used person-based predictive policing models, including the Strategic Subject List and Crime and Victimization Risk Model, to assign violence-risk scores to hundreds of thousands of residents. Official and media reports alleged that the program gave police a mathematically fragile basis for treating heavily policed residents as future victims or suspects, with Black Chicago residents especially exposed to the consequences of that scoring.

もっと

インシデント 4383 Report
Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

2021-09-17

Henan Public Security Department procurement documents reportedly described a surveillance system awarded to Neusoft on September 17, 2021. The planned system would allegedly use about 3,000 facial-recognition cameras linked to regional and national databases to create files and alerts on foreign journalists, international students, and other targeted groups. It could not be confirmed whether the system became operational.

もっと

インシデント 6213 Report
Microsoft AI Is Alleged to Have Generated Violent Imagery of Minorities and Public Figures

2023-11-10

Microsoft’s AI Image Creator, integrated with Bing and Windows Paint, produced disturbingly violent and graphic images featuring members of minority groups and public figures like Joe Biden and Pope Francis.

もっと

インシデント 2391 Report
Algorithmic Teacher Evaluation Program Reportedly Failed to Improve Student Outcomes and Was Alleged to Have Harmed Teachers

2009-09-01

Gates Foundation-funded Intensive Partnerships for Effective Teaching Initiative's algorithmic program to assess teacher performance reportedly failed to achieve its goals for student outcomes, particularly for minority students, and was criticized for potentially causing harm against teachers.

もっと

関連団体
同じインシデントに関連するその他のエンティティ。たとえば、インシデントの開発者がこのエンティティで、デプロイヤーが別のエンティティである場合、それらは関連エンティティとしてマークされます。
 

Entity

Intensive Partnerships for Effective Teaching

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 239
    1 レポート

    Algorithmic Teacher Evaluation Program Reportedly Failed to Improve Student Outcomes and Was Alleged to Have Harmed Teachers

もっと
Entity

Teachers

影響を受けたインシデント
  • インシデント 239
    1 レポート

    Algorithmic Teacher Evaluation Program Reportedly Failed to Improve Student Outcomes and Was Alleged to Have Harmed Teachers

もっと
Entity

Students

影響を受けたインシデント
  • インシデント 438
    3 レポート

    Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

  • インシデント 239
    1 レポート

    Algorithmic Teacher Evaluation Program Reportedly Failed to Improve Student Outcomes and Was Alleged to Have Harmed Teachers

もっと
Entity

Epistemic integrity

影響を受けたインシデント
  • インシデント 239
    1 レポート

    Algorithmic Teacher Evaluation Program Reportedly Failed to Improve Student Outcomes and Was Alleged to Have Harmed Teachers

もっと
Entity

Educational communities

影響を受けたインシデント
  • インシデント 438
    3 レポート

    Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

  • インシデント 239
    1 レポート

    Algorithmic Teacher Evaluation Program Reportedly Failed to Improve Student Outcomes and Was Alleged to Have Harmed Teachers

もっと
Entity

Economically vulnerable people

影響を受けたインシデント
  • インシデント 239
    1 レポート

    Algorithmic Teacher Evaluation Program Reportedly Failed to Improve Student Outcomes and Was Alleged to Have Harmed Teachers

もっと
Entity

Economically vulnerable students

影響を受けたインシデント
  • インシデント 239
    1 レポート

    Algorithmic Teacher Evaluation Program Reportedly Failed to Improve Student Outcomes and Was Alleged to Have Harmed Teachers

もっと
Entity

Minority students

影響を受けたインシデント
  • インシデント 239
    1 レポート

    Algorithmic Teacher Evaluation Program Reportedly Failed to Improve Student Outcomes and Was Alleged to Have Harmed Teachers

もっと
Entity

Intensive Partnerships for Effective Teaching teacher-evaluation system

Incidents implicated systems
  • インシデント 239
    1 レポート

    Algorithmic Teacher Evaluation Program Reportedly Failed to Improve Student Outcomes and Was Alleged to Have Harmed Teachers

もっと
Entity

Algorithmic teacher evaluation program

Incidents implicated systems
  • インシデント 239
    1 レポート

    Algorithmic Teacher Evaluation Program Reportedly Failed to Improve Student Outcomes and Was Alleged to Have Harmed Teachers

もっと
Entity

Chicago Police Department

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 433
    9 レポート

    Chicago Police's Strategic Subject List Reportedly Biased Along Racial Lines

もっと
Entity

Economically vulnerable communities

影響を受けたインシデント
  • インシデント 433
    9 レポート

    Chicago Police's Strategic Subject List Reportedly Biased Along Racial Lines

もっと
Entity

communities of color

影響を受けたインシデント
  • インシデント 433
    9 レポート

    Chicago Police's Strategic Subject List Reportedly Biased Along Racial Lines

もっと
Entity

Black Chicago residents

影響を受けたインシデント
  • インシデント 433
    9 レポート

    Chicago Police's Strategic Subject List Reportedly Biased Along Racial Lines

もっと
Entity

Black people

影響を受けたインシデント
  • インシデント 433
    9 レポート

    Chicago Police's Strategic Subject List Reportedly Biased Along Racial Lines

  • インシデント 598
    1 レポート

    False Arrest of Georgia Man Due to Louisiana Police's Faulty Facial Recognition Technology

もっと
Entity

General public

影響を受けたインシデント
  • インシデント 433
    9 レポート

    Chicago Police's Strategic Subject List Reportedly Biased Along Racial Lines

  • インシデント 621
    3 レポート

    Microsoft AI Is Alleged to Have Generated Violent Imagery of Minorities and Public Figures

もっと
Entity

General public of Chicago

影響を受けたインシデント
  • インシデント 433
    9 レポート

    Chicago Police's Strategic Subject List Reportedly Biased Along Racial Lines

もっと
Entity

Strategic Subject List

Incidents implicated systems
  • インシデント 433
    9 レポート

    Chicago Police's Strategic Subject List Reportedly Biased Along Racial Lines

もっと
Entity

Victimization Risk Model

Incidents implicated systems
  • インシデント 433
    9 レポート

    Chicago Police's Strategic Subject List Reportedly Biased Along Racial Lines

もっと
Entity

Henan Public Security Department

Incidents involved as Deployer
  • インシデント 438
    3 レポート

    Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

もっと
Entity

Henan government

Incidents involved as Deployer
  • インシデント 438
    3 レポート

    Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

もっと
Entity

Government of China

Incidents involved as Deployer
  • インシデント 438
    3 レポート

    Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

もっと
Entity

Neusoft

Incidents involved as Developer
  • インシデント 438
    3 レポート

    Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

もっと
Entity

Huawei

Incidents involved as Developer
  • インシデント 438
    3 レポート

    Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

もっと
Entity

Huawei Cloud

Incidents involved as Developer
  • インシデント 438
    3 レポート

    Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

もっと
Entity

Facial recognition technology developers

Incidents involved as Developer
  • インシデント 438
    3 レポート

    Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

もっと
Entity

Surveillance technology developers

Incidents involved as Developer
  • インシデント 438
    3 レポート

    Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

もっと
Entity

international students in Henan

影響を受けたインシデント
  • インシデント 438
    3 レポート

    Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

もっと
Entity

foreign journalists in Henan

影響を受けたインシデント
  • インシデント 438
    3 レポート

    Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

もっと
Entity

Journalists

影響を受けたインシデント
  • インシデント 438
    3 レポート

    Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

もっと
Entity

Women

影響を受けたインシデント
  • インシデント 438
    3 レポート

    Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

もっと
Entity

Migrant women

影響を受けたインシデント
  • インシデント 438
    3 レポート

    Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

もっと
Entity

Migrant women in Henan

影響を受けたインシデント
  • インシデント 438
    3 レポート

    Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

もっと
Entity

Migrant women in China

影響を受けたインシデント
  • インシデント 438
    3 レポート

    Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

もっと
Entity

Uyghurs

影響を受けたインシデント
  • インシデント 438
    3 レポート

    Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

もっと
Entity

Ethnic minorities in China

影響を受けたインシデント
  • インシデント 438
    3 レポート

    Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

もっと
Entity

Press freedom

影響を受けたインシデント
  • インシデント 438
    3 レポート

    Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

もっと
Entity

Privacy

影響を受けたインシデント
  • インシデント 438
    3 レポート

    Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

もっと
Entity

Biometric data subjects

影響を受けたインシデント
  • インシデント 438
    3 レポート

    Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

もっと
Entity

Facial recognition technology

Incidents implicated systems
  • インシデント 438
    3 レポート

    Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

もっと
Entity

Surveillance technology

Incidents implicated systems
  • インシデント 438
    3 レポート

    Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

もっと
Entity

Henan targeted surveillance system

Incidents implicated systems
  • インシデント 438
    3 レポート

    Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

もっと
Entity

Traffic-light risk classification systems

Incidents implicated systems
  • インシデント 438
    3 レポート

    Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

もっと
Entity

Person-of-interest alert systems

Incidents implicated systems
  • インシデント 438
    3 レポート

    Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

もっと
Entity

Surveillance databases

Incidents implicated systems
  • インシデント 438
    3 レポート

    Henan Authorities Reportedly Commissioned Facial Recognition System to Track Journalists and International Students

もっと
Entity

Jefferson Parish Sheriff’s Office

Incidents involved as Deployer
  • インシデント 598
    1 レポート

    False Arrest of Georgia Man Due to Louisiana Police's Faulty Facial Recognition Technology

もっと
Entity

Unknown

Incidents involved as Developer
  • インシデント 598
    1 レポート

    False Arrest of Georgia Man Due to Louisiana Police's Faulty Facial Recognition Technology

もっと
Entity

Randal Reid

影響を受けたインシデント
  • インシデント 598
    1 レポート

    False Arrest of Georgia Man Due to Louisiana Police's Faulty Facial Recognition Technology

もっと
Entity

Windows Paint

Incidents involved as Deployer
  • インシデント 621
    3 レポート

    Microsoft AI Is Alleged to Have Generated Violent Imagery of Minorities and Public Figures

もっと
Entity

Microsoft

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 621
    3 レポート

    Microsoft AI Is Alleged to Have Generated Violent Imagery of Minorities and Public Figures

もっと
Entity

Bing users

Incidents involved as Deployer
  • インシデント 621
    3 レポート

    Microsoft AI Is Alleged to Have Generated Violent Imagery of Minorities and Public Figures

もっと
Entity

Bing

Incidents involved as Deployer
  • インシデント 621
    3 レポート

    Microsoft AI Is Alleged to Have Generated Violent Imagery of Minorities and Public Figures

もっと
Entity

AI Image Creator

Incidents involved as Deployer
  • インシデント 621
    3 レポート

    Microsoft AI Is Alleged to Have Generated Violent Imagery of Minorities and Public Figures

もっと
Entity

Sikh people

影響を受けたインシデント
  • インシデント 621
    3 レポート

    Microsoft AI Is Alleged to Have Generated Violent Imagery of Minorities and Public Figures

もっと
Entity

President Joe Biden

影響を受けたインシデント
  • インシデント 621
    3 レポート

    Microsoft AI Is Alleged to Have Generated Violent Imagery of Minorities and Public Figures

もっと
Entity

Pope Francis

影響を受けたインシデント
  • インシデント 621
    3 レポート

    Microsoft AI Is Alleged to Have Generated Violent Imagery of Minorities and Public Figures

もっと
Entity

Navajo people

影響を受けたインシデント
  • インシデント 621
    3 レポート

    Microsoft AI Is Alleged to Have Generated Violent Imagery of Minorities and Public Figures

もっと
Entity

Hillary Clinton

影響を受けたインシデント
  • インシデント 621
    3 レポート

    Microsoft AI Is Alleged to Have Generated Violent Imagery of Minorities and Public Figures

もっと
Entity

Donald Trump

影響を受けたインシデント
  • インシデント 621
    3 レポート

    Microsoft AI Is Alleged to Have Generated Violent Imagery of Minorities and Public Figures

もっと

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2026 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 638678f