Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
組織

Minority Groups

影響を受けたインシデント

インシデント 1927 Report
Sexist and Racist Google Adsense Advertisements

2013-01-23

Advertisements chosen by Google Adsense are reported as producing sexist and racist results.

もっと

インシデント 6023 Report
FaceApp Racial Filters

2017-04-25

FaceApp is criticized for offering racist filters.

もっと

インシデント 5318 Report
Biased Google Image Results

2016-03-31

On June 6, 2016, Google image searches of "three black teenagers" resulted in mostly mugshot images whereas Google image searchers of "three white teenagers" consisted of mostly stock images, suggesting a racial bias in Google's algorithm.

もっと

インシデント 139 Report
High-Toxicity Assessed on Text Involving Women and Minority Groups

2017-02-27

Google's Perspective API, which assigns a toxicity score to online text, seems to award higher toxicity scores to content involving non-white, male, Christian, heterosexual phrases.

もっと

関連団体
同じインシデントに関連するその他のエンティティ。たとえば、インシデントの開発者がこのエンティティで、デプロイヤーが別のエンティティである場合、それらは関連エンティティとしてマークされます。
 

Entity

Microsoft Research

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 12
    1 レポート

    Common Biases of Vector Embeddings

もっと
Entity

Boston University

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 12
    1 レポート

    Common Biases of Vector Embeddings

もっと
Entity

Google

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 19
    27 レポート

    Sexist and Racist Google Adsense Advertisements

  • インシデント 53
    18 レポート

    Biased Google Image Results

Incidents involved as Developer
  • インシデント 12
    1 レポート

    Common Biases of Vector Embeddings

もっと
Entity

Women

影響を受けたインシデント
  • インシデント 19
    27 レポート

    Sexist and Racist Google Adsense Advertisements

  • インシデント 13
    9 レポート

    High-Toxicity Assessed on Text Involving Women and Minority Groups

もっと
Entity

St George's Hospital Medical School

Incidents involved as Deployer
  • インシデント 43
    4 レポート

    Racist AI behaviour is not a new problem

もっと
Entity

Dr. Geoffrey Franglen

Incidents involved as Developer
  • インシデント 43
    4 レポート

    Racist AI behaviour is not a new problem

もっと
Entity

FaceApp

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 60
    23 レポート

    FaceApp Racial Filters

もっと
Entity

Allen Institute for AI

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 146
    3 レポート

    Research Prototype AI, Delphi, Reportedly Gave Racially Biased Answers on Ethics

もっと
Entity

OpenAI

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 179
    3 レポート

    DALL-E 2 Reported for Gender and Racially Biased Outputs

もっと
Entity

underrepresented groups

影響を受けたインシデント
  • インシデント 262
    4 レポート

    DALL-E Mini Reportedly Reinforced or Exacerbated Societal Biases in Its Outputs as Gender and Racial Stereotypes

  • インシデント 179
    3 レポート

    DALL-E 2 Reported for Gender and Racially Biased Outputs

もっと
Entity

Boris Dayma

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 262
    4 レポート

    DALL-E Mini Reportedly Reinforced or Exacerbated Societal Biases in Its Outputs as Gender and Racial Stereotypes

もっと
Entity

Suraj Patil

Incidents involved as Developer
  • インシデント 262
    4 レポート

    DALL-E Mini Reportedly Reinforced or Exacerbated Societal Biases in Its Outputs as Gender and Racial Stereotypes

もっと
Entity

Pedro Cuenca

Incidents involved as Developer
  • インシデント 262
    4 レポート

    DALL-E Mini Reportedly Reinforced or Exacerbated Societal Biases in Its Outputs as Gender and Racial Stereotypes

もっと
Entity

Khalid Saifullah

Incidents involved as Developer
  • インシデント 262
    4 レポート

    DALL-E Mini Reportedly Reinforced or Exacerbated Societal Biases in Its Outputs as Gender and Racial Stereotypes

もっと
Entity

Tanishq Abraham

Incidents involved as Developer
  • インシデント 262
    4 レポート

    DALL-E Mini Reportedly Reinforced or Exacerbated Societal Biases in Its Outputs as Gender and Racial Stereotypes

もっと
Entity

Phúc Lê Khắc

Incidents involved as Developer
  • インシデント 262
    4 レポート

    DALL-E Mini Reportedly Reinforced or Exacerbated Societal Biases in Its Outputs as Gender and Racial Stereotypes

もっと
Entity

Luke Melas

Incidents involved as Developer
  • インシデント 262
    4 レポート

    DALL-E Mini Reportedly Reinforced or Exacerbated Societal Biases in Its Outputs as Gender and Racial Stereotypes

もっと
Entity

Ritobrata Ghosh

Incidents involved as Developer
  • インシデント 262
    4 レポート

    DALL-E Mini Reportedly Reinforced or Exacerbated Societal Biases in Its Outputs as Gender and Racial Stereotypes

もっと
Entity

Meta AI

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 399
    3 レポート

    Meta AI's Scientific Paper Generator Reportedly Produced Inaccurate and Harmful Content

影響を受けたインシデント
  • インシデント 399
    3 レポート

    Meta AI's Scientific Paper Generator Reportedly Produced Inaccurate and Harmful Content

もっと
Entity

Meta

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 399
    3 レポート

    Meta AI's Scientific Paper Generator Reportedly Produced Inaccurate and Harmful Content

影響を受けたインシデント
  • インシデント 399
    3 レポート

    Meta AI's Scientific Paper Generator Reportedly Produced Inaccurate and Harmful Content

もっと
Entity

Facebook

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 399
    3 レポート

    Meta AI's Scientific Paper Generator Reportedly Produced Inaccurate and Harmful Content

影響を受けたインシデント
  • インシデント 399
    3 レポート

    Meta AI's Scientific Paper Generator Reportedly Produced Inaccurate and Harmful Content

もっと

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • ecd56df