Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
寄付する
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
組織

Black people

影響を受けたインシデント

インシデント 1623 Report
Images of Black People Labeled as Gorillas

2015-06-03

Google Photos image processing software mistakenly labelled a black couple as "gorillas."

もっと

インシデント 4339 Report
Chicago Police's Strategic Subject List Reportedly Biased Along Racial Lines

2012-08-01

The Chicago Police Department reportedly used person-based predictive policing models, including the Strategic Subject List and Crime and Victimization Risk Model, to assign violence-risk scores to hundreds of thousands of residents. Official and media reports alleged that the program gave police a mathematically fragile basis for treating heavily policed residents as future victims or suspects, with Black Chicago residents especially exposed to the consequences of that scoring.

もっと

インシデント 3324 Report
Google Image Showed Racially Biased Results for “Professional” Hairstyles

2016-04-05

Google Image search reportedly showed disparate results along racial lines, featuring almost exclusively white women for “professional hairstyles” and black women for “unprofessional hairstyles” prompts.

もっと

インシデント 5583 Report
Activists Allege NYPD's Application of Facial Recognition Interfered with Right to Protest

2020-08-07

Black Lives Matter activists alleged being targeted for arrest by New York Police using facial recognition, interfering with their right to protest.

もっと

関連団体
同じインシデントに関連するその他のエンティティ。たとえば、インシデントの開発者がこのエンティティで、デプロイヤーが別のエンティティである場合、それらは関連エンティティとしてマークされます。
 

Entity

Google

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 16
    23 レポート

    Images of Black People Labeled as Gorillas

  • インシデント 332
    4 レポート

    Google Image Showed Racially Biased Results for “Professional” Hairstyles

もっと
Entity

Facebook

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 113
    1 レポート

    Facebook's AI Put "Primates" Label on Video Featuring Black Men

もっと
Entity

Facebook users

影響を受けたインシデント
  • インシデント 113
    1 レポート

    Facebook's AI Put "Primates" Label on Video Featuring Black Men

もっと
Entity

Microsoft

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 102
    2 レポート

    Personal voice assistants struggle with black voices, new study shows

  • インシデント 454
    2 レポート

    Emotion Detection Models Showed Disparate Performance along Racial Lines

もっと
Entity

IBM

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 102
    2 レポート

    Personal voice assistants struggle with black voices, new study shows

もっと
Entity

Apple

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 102
    2 レポート

    Personal voice assistants struggle with black voices, new study shows

もっと
Entity

Amazon

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 102
    2 レポート

    Personal voice assistants struggle with black voices, new study shows

もっと
Entity

Black women

影響を受けたインシデント
  • インシデント 332
    4 レポート

    Google Image Showed Racially Biased Results for “Professional” Hairstyles

もっと
Entity

Google users

影響を受けたインシデント
  • インシデント 332
    4 レポート

    Google Image Showed Racially Biased Results for “Professional” Hairstyles

もっと
Entity

Chicago Police Department

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 433
    9 レポート

    Chicago Police's Strategic Subject List Reportedly Biased Along Racial Lines

もっと
Entity

Economically vulnerable communities

影響を受けたインシデント
  • インシデント 433
    9 レポート

    Chicago Police's Strategic Subject List Reportedly Biased Along Racial Lines

もっと
Entity

communities of color

影響を受けたインシデント
  • インシデント 433
    9 レポート

    Chicago Police's Strategic Subject List Reportedly Biased Along Racial Lines

もっと
Entity

Black Chicago residents

影響を受けたインシデント
  • インシデント 433
    9 レポート

    Chicago Police's Strategic Subject List Reportedly Biased Along Racial Lines

もっと
Entity

Minorities

影響を受けたインシデント
  • インシデント 433
    9 レポート

    Chicago Police's Strategic Subject List Reportedly Biased Along Racial Lines

  • インシデント 598
    1 レポート

    False Arrest of Georgia Man Due to Louisiana Police's Faulty Facial Recognition Technology

もっと
Entity

General public

影響を受けたインシデント
  • インシデント 433
    9 レポート

    Chicago Police's Strategic Subject List Reportedly Biased Along Racial Lines

  • インシデント 558
    3 レポート

    Activists Allege NYPD's Application of Facial Recognition Interfered with Right to Protest

もっと
Entity

General public of Chicago

影響を受けたインシデント
  • インシデント 433
    9 レポート

    Chicago Police's Strategic Subject List Reportedly Biased Along Racial Lines

もっと
Entity

Strategic Subject List

Incidents implicated systems
  • インシデント 433
    9 レポート

    Chicago Police's Strategic Subject List Reportedly Biased Along Racial Lines

もっと
Entity

Victimization Risk Model

Incidents implicated systems
  • インシデント 433
    9 レポート

    Chicago Police's Strategic Subject List Reportedly Biased Along Racial Lines

もっと
Entity

Megvii

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 454
    2 レポート

    Emotion Detection Models Showed Disparate Performance along Racial Lines

もっと
Entity

New York City Police Department

Incidents involved as Deployer
  • インシデント 558
    3 レポート

    Activists Allege NYPD's Application of Facial Recognition Interfered with Right to Protest

もっと
Entity

Clearview AI

Incidents involved as Developer
  • インシデント 558
    3 レポート

    Activists Allege NYPD's Application of Facial Recognition Interfered with Right to Protest

  • インシデント 896
    1 レポート

    Alleged Misuse of Facial Recognition Technology by Law Enforcement Reportedly Leading to Wrongful Arrests and Violations of Investigative Standards

Incidents implicated systems
  • インシデント 896
    1 レポート

    Alleged Misuse of Facial Recognition Technology by Law Enforcement Reportedly Leading to Wrongful Arrests and Violations of Investigative Standards

もっと
Entity

Facial recognition technology developers

Incidents involved as Developer
  • インシデント 558
    3 レポート

    Activists Allege NYPD's Application of Facial Recognition Interfered with Right to Protest

もっと
Entity

Surveillance technology developers

Incidents involved as Developer
  • インシデント 558
    3 レポート

    Activists Allege NYPD's Application of Facial Recognition Interfered with Right to Protest

もっと
Entity

Derrick Ingram

影響を受けたインシデント
  • インシデント 558
    3 レポート

    Activists Allege NYPD's Application of Facial Recognition Interfered with Right to Protest

もっと
Entity

Black Lives Matter activists

影響を受けたインシデント
  • インシデント 558
    3 レポート

    Activists Allege NYPD's Application of Facial Recognition Interfered with Right to Protest

もっと
Entity

General public of New York City

影響を受けたインシデント
  • インシデント 558
    3 レポート

    Activists Allege NYPD's Application of Facial Recognition Interfered with Right to Protest

もっと
Entity

Privacy

影響を受けたインシデント
  • インシデント 558
    3 レポート

    Activists Allege NYPD's Application of Facial Recognition Interfered with Right to Protest

もっと
Entity

Biometric data subjects

影響を受けたインシデント
  • インシデント 558
    3 レポート

    Activists Allege NYPD's Application of Facial Recognition Interfered with Right to Protest

もっと
Entity

Democratic integrity

影響を受けたインシデント
  • インシデント 558
    3 レポート

    Activists Allege NYPD's Application of Facial Recognition Interfered with Right to Protest

もっと
Entity

Clearview AI facial recognition system

Incidents implicated systems
  • インシデント 558
    3 レポート

    Activists Allege NYPD's Application of Facial Recognition Interfered with Right to Protest

もっと
Entity

Facial recognition technology

Incidents implicated systems
  • インシデント 558
    3 レポート

    Activists Allege NYPD's Application of Facial Recognition Interfered with Right to Protest

もっと
Entity

Surveillance technology

Incidents implicated systems
  • インシデント 558
    3 レポート

    Activists Allege NYPD's Application of Facial Recognition Interfered with Right to Protest

もっと
Entity

Jefferson Parish Sheriff’s Office

Incidents involved as Deployer
  • インシデント 598
    1 レポート

    False Arrest of Georgia Man Due to Louisiana Police's Faulty Facial Recognition Technology

もっと
Entity

Unknown

Incidents involved as Developer
  • インシデント 598
    1 レポート

    False Arrest of Georgia Man Due to Louisiana Police's Faulty Facial Recognition Technology

もっと
Entity

Randal Reid

影響を受けたインシデント
  • インシデント 598
    1 レポート

    False Arrest of Georgia Man Due to Louisiana Police's Faulty Facial Recognition Technology

もっと
Entity

Florence Kentucky Police Department

Incidents involved as Deployer
  • インシデント 896
    1 レポート

    Alleged Misuse of Facial Recognition Technology by Law Enforcement Reportedly Leading to Wrongful Arrests and Violations of Investigative Standards

もっと
Entity

Evansville Indiana Police Department

Incidents involved as Deployer
  • インシデント 896
    1 レポート

    Alleged Misuse of Facial Recognition Technology by Law Enforcement Reportedly Leading to Wrongful Arrests and Violations of Investigative Standards

もっと
Entity

Detroit Police Department

Incidents involved as Deployer
  • インシデント 896
    1 レポート

    Alleged Misuse of Facial Recognition Technology by Law Enforcement Reportedly Leading to Wrongful Arrests and Violations of Investigative Standards

もっと
Entity

Coral Springs Florida Police Department

Incidents involved as Deployer
  • インシデント 896
    1 レポート

    Alleged Misuse of Facial Recognition Technology by Law Enforcement Reportedly Leading to Wrongful Arrests and Violations of Investigative Standards

もっと
Entity

Bradenton Florida Police Department

Incidents involved as Deployer
  • インシデント 896
    1 レポート

    Alleged Misuse of Facial Recognition Technology by Law Enforcement Reportedly Leading to Wrongful Arrests and Violations of Investigative Standards

もっと
Entity

Austin Police Department

Incidents involved as Deployer
  • インシデント 896
    1 レポート

    Alleged Misuse of Facial Recognition Technology by Law Enforcement Reportedly Leading to Wrongful Arrests and Violations of Investigative Standards

もっと
Entity

Developers of mugshot recognition software

Incidents involved as Developer
  • インシデント 896
    1 レポート

    Alleged Misuse of Facial Recognition Technology by Law Enforcement Reportedly Leading to Wrongful Arrests and Violations of Investigative Standards

もっと
Entity

Developers of law enforcement facial recognition software

Incidents involved as Developer
  • インシデント 896
    1 レポート

    Alleged Misuse of Facial Recognition Technology by Law Enforcement Reportedly Leading to Wrongful Arrests and Violations of Investigative Standards

もっと
Entity

Wrongfully arrested individuals

影響を受けたインシデント
  • インシデント 896
    1 レポート

    Alleged Misuse of Facial Recognition Technology by Law Enforcement Reportedly Leading to Wrongful Arrests and Violations of Investigative Standards

もっと
Entity

Vulnerable communities

影響を受けたインシデント
  • インシデント 896
    1 レポート

    Alleged Misuse of Facial Recognition Technology by Law Enforcement Reportedly Leading to Wrongful Arrests and Violations of Investigative Standards

もっと
Entity

Robert Williams

影響を受けたインシデント
  • インシデント 896
    1 レポート

    Alleged Misuse of Facial Recognition Technology by Law Enforcement Reportedly Leading to Wrongful Arrests and Violations of Investigative Standards

もっと
Entity

Quran Reid

影響を受けたインシデント
  • インシデント 896
    1 レポート

    Alleged Misuse of Facial Recognition Technology by Law Enforcement Reportedly Leading to Wrongful Arrests and Violations of Investigative Standards

もっと
Entity

Porcha Woodruff

影響を受けたインシデント
  • インシデント 896
    1 レポート

    Alleged Misuse of Facial Recognition Technology by Law Enforcement Reportedly Leading to Wrongful Arrests and Violations of Investigative Standards

もっと
Entity

People of color

影響を受けたインシデント
  • インシデント 896
    1 レポート

    Alleged Misuse of Facial Recognition Technology by Law Enforcement Reportedly Leading to Wrongful Arrests and Violations of Investigative Standards

もっと
Entity

Nijeer Parks

影響を受けたインシデント
  • インシデント 896
    1 レポート

    Alleged Misuse of Facial Recognition Technology by Law Enforcement Reportedly Leading to Wrongful Arrests and Violations of Investigative Standards

もっと
Entity

Jason Vernau

影響を受けたインシデント
  • インシデント 896
    1 レポート

    Alleged Misuse of Facial Recognition Technology by Law Enforcement Reportedly Leading to Wrongful Arrests and Violations of Investigative Standards

もっと
Entity

Christopher Gatlin

影響を受けたインシデント
  • インシデント 896
    1 レポート

    Alleged Misuse of Facial Recognition Technology by Law Enforcement Reportedly Leading to Wrongful Arrests and Violations of Investigative Standards

もっと
Entity

Alonzo Sawyer

影響を受けたインシデント
  • インシデント 896
    1 レポート

    Alleged Misuse of Facial Recognition Technology by Law Enforcement Reportedly Leading to Wrongful Arrests and Violations of Investigative Standards

もっと
Entity

Statewide facial recognition systems

Incidents implicated systems
  • インシデント 896
    1 レポート

    Alleged Misuse of Facial Recognition Technology by Law Enforcement Reportedly Leading to Wrongful Arrests and Violations of Investigative Standards

もっと
Entity

St. Louis mugshot recognition technology

Incidents implicated systems
  • インシデント 896
    1 レポート

    Alleged Misuse of Facial Recognition Technology by Law Enforcement Reportedly Leading to Wrongful Arrests and Violations of Investigative Standards

もっと
Entity

Michigan state facial recognition system

Incidents implicated systems
  • インシデント 896
    1 レポート

    Alleged Misuse of Facial Recognition Technology by Law Enforcement Reportedly Leading to Wrongful Arrests and Violations of Investigative Standards

もっと
Entity

Florida state facial recognition system

Incidents implicated systems
  • インシデント 896
    1 レポート

    Alleged Misuse of Facial Recognition Technology by Law Enforcement Reportedly Leading to Wrongful Arrests and Violations of Investigative Standards

もっと
Entity

Donald Trump

Incidents involved as Deployer
  • インシデント 1363
    1 レポート

    Trump Reportedly Posted Purportedly AI-Generated Racist Video Depicting Barack and Michelle Obama as Apes on Truth Social

もっと
Entity

Unidentified X user

Incidents involved as Deployer
  • インシデント 1363
    1 レポート

    Trump Reportedly Posted Purportedly AI-Generated Racist Video Depicting Barack and Michelle Obama as Apes on Truth Social

もっと
Entity

Trump Administration

Incidents involved as Deployer
  • インシデント 1363
    1 レポート

    Trump Reportedly Posted Purportedly AI-Generated Racist Video Depicting Barack and Michelle Obama as Apes on Truth Social

もっと
Entity

Unknown synthetic media developers

Incidents involved as Developer
  • インシデント 1363
    1 レポート

    Trump Reportedly Posted Purportedly AI-Generated Racist Video Depicting Barack and Michelle Obama as Apes on Truth Social

もっと
Entity

Barack Obama

影響を受けたインシデント
  • インシデント 1363
    1 レポート

    Trump Reportedly Posted Purportedly AI-Generated Racist Video Depicting Barack and Michelle Obama as Apes on Truth Social

もっと
Entity

Michelle Obama

影響を受けたインシデント
  • インシデント 1363
    1 レポート

    Trump Reportedly Posted Purportedly AI-Generated Racist Video Depicting Barack and Michelle Obama as Apes on Truth Social

もっと
Entity

Epistemic integrity

影響を受けたインシデント
  • インシデント 1363
    1 レポート

    Trump Reportedly Posted Purportedly AI-Generated Racist Video Depicting Barack and Michelle Obama as Apes on Truth Social

もっと
Entity

Black Americans

影響を受けたインシデント
  • インシデント 1363
    1 レポート

    Trump Reportedly Posted Purportedly AI-Generated Racist Video Depicting Barack and Michelle Obama as Apes on Truth Social

もっと
Entity

Unknown synthetic media technology

Incidents implicated systems
  • インシデント 1363
    1 レポート

    Trump Reportedly Posted Purportedly AI-Generated Racist Video Depicting Barack and Michelle Obama as Apes on Truth Social

もっと

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2026 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 4445024