Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
組織

Women

影響を受けたインシデント

インシデント 1927 Report
Sexist and Racist Google Adsense Advertisements

2013-01-23

Advertisements chosen by Google Adsense are reported as producing sexist and racist results.

もっと

インシデント 1811 Report
Gender Biases of Google Image Search

2015-04-04

Google Image returns results that under-represent women in leadership roles, notably with the first photo of a female "CEO" being a Barbie doll after 11 rows of male CEOs.

もっと

インシデント 5910 Report
Gender Biases in Google Translate

2017-04-13

A Cornell University study in 2016 highlighted Google Translate's pattern of assigning gender to occupations in a way showing an implicit gender bias against women.

もっと

インシデント 139 Report
High-Toxicity Assessed on Text Involving Women and Minority Groups

2017-02-27

Google's Perspective API, which assigns a toxicity score to online text, seems to award higher toxicity scores to content involving non-white, male, Christian, heterosexual phrases.

もっと

関連団体
同じインシデントに関連するその他のエンティティ。たとえば、インシデントの開発者がこのエンティティで、デプロイヤーが別のエンティティである場合、それらは関連エンティティとしてマークされます。
 

Entity

Google

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 19
    27 レポート

    Sexist and Racist Google Adsense Advertisements

  • インシデント 18
    11 レポート

    Gender Biases of Google Image Search

Incidents involved as Developer
  • インシデント 12
    1 レポート

    Common Biases of Vector Embeddings

もっと
Entity

Microsoft Research

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 12
    1 レポート

    Common Biases of Vector Embeddings

もっと
Entity

Boston University

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 12
    1 レポート

    Common Biases of Vector Embeddings

もっと
Entity

Minority Groups

影響を受けたインシデント
  • インシデント 19
    27 レポート

    Sexist and Racist Google Adsense Advertisements

  • インシデント 13
    9 レポート

    High-Toxicity Assessed on Text Involving Women and Minority Groups

もっと
Entity

LinkedIn

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 47
    9 レポート

    LinkedIn Search Prefers Male Names

もっと
Entity

St George's Hospital Medical School

Incidents involved as Deployer
  • インシデント 43
    4 レポート

    Racist AI behaviour is not a new problem

もっと
Entity

Dr. Geoffrey Franglen

Incidents involved as Developer
  • インシデント 43
    4 レポート

    Racist AI behaviour is not a new problem

もっと
Entity

Natural Cycles

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 150
    3 レポート

    Swedish Contraceptive App, Natural Cycles, Allegedly Failed to Correctly Map Menstrual Cycle

もっと
Entity

Natural Cycles users

影響を受けたインシデント
  • インシデント 150
    3 レポート

    Swedish Contraceptive App, Natural Cycles, Allegedly Failed to Correctly Map Menstrual Cycle

もっと
Entity

Stability AI

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 529
    3 レポート

    Stable Diffusion Exhibited Biases for Prompts Featuring Professions

もっと
Entity

Runway

Incidents involved as Developer
  • インシデント 529
    3 レポート

    Stable Diffusion Exhibited Biases for Prompts Featuring Professions

もっと
Entity

LAION

Incidents involved as Developer
  • インシデント 529
    3 レポート

    Stable Diffusion Exhibited Biases for Prompts Featuring Professions

もっと
Entity

EleutherAI

Incidents involved as Developer
  • インシデント 529
    3 レポート

    Stable Diffusion Exhibited Biases for Prompts Featuring Professions

もっと
Entity

CompVis LMU

Incidents involved as Developer
  • インシデント 529
    3 レポート

    Stable Diffusion Exhibited Biases for Prompts Featuring Professions

もっと
Entity

racial minority groups

影響を受けたインシデント
  • インシデント 529
    3 レポート

    Stable Diffusion Exhibited Biases for Prompts Featuring Professions

もっと
Entity

gender minority groups

影響を受けたインシデント
  • インシデント 529
    3 レポート

    Stable Diffusion Exhibited Biases for Prompts Featuring Professions

もっと
Entity

Telegram channels

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 530
    3 レポート

    Telegram Channels Allowed Users to Make Non-Consensual Deepfake Porn as Paid Service

もっと
Entity

Alberto

Incidents involved as Developer
  • インシデント 530
    3 レポート

    Telegram Channels Allowed Users to Make Non-Consensual Deepfake Porn as Paid Service

もっと
Entity

underage girls

影響を受けたインシデント
  • インシデント 530
    3 レポート

    Telegram Channels Allowed Users to Make Non-Consensual Deepfake Porn as Paid Service

もっと
Entity

female celebrities

影響を受けたインシデント
  • インシデント 530
    3 レポート

    Telegram Channels Allowed Users to Make Non-Consensual Deepfake Porn as Paid Service

もっと
Entity

Meta

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 580
    1 レポート

    Alleged Gender Discrimination in Facebook Job Ads Algorithm

もっと
Entity

Underrepresented genders

影響を受けたインシデント
  • インシデント 580
    1 レポート

    Alleged Gender Discrimination in Facebook Job Ads Algorithm

もっと
Entity

General public

影響を受けたインシデント
  • インシデント 1000
    2 レポート

    Sora Video Generator Has Reportedly Been Creating Biased Human Representations Across Race, Gender, and Disability

  • インシデント 580
    1 レポート

    Alleged Gender Discrimination in Facebook Job Ads Algorithm

もっと
Entity

Advertisers

影響を受けたインシデント
  • インシデント 580
    1 レポート

    Alleged Gender Discrimination in Facebook Job Ads Algorithm

もっと
Entity

Unknown deepfake creators

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 782
    1 レポート

    AI 'Nudify' Apps Used as Tools for Blackmail and Extortion

もっと
Entity

Extortionists

Incidents involved as Deployer
  • インシデント 782
    1 レポート

    AI 'Nudify' Apps Used as Tools for Blackmail and Extortion

もっと
Entity

Women in India

影響を受けたインシデント
  • インシデント 782
    1 レポート

    AI 'Nudify' Apps Used as Tools for Blackmail and Extortion

もっと
Entity

OpenAI

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 1000
    2 レポート

    Sora Video Generator Has Reportedly Been Creating Biased Human Representations Across Race, Gender, and Disability

もっと
Entity

Marginalized groups

影響を受けたインシデント
  • インシデント 1000
    2 レポート

    Sora Video Generator Has Reportedly Been Creating Biased Human Representations Across Race, Gender, and Disability

もっと
Entity

people with disabilities

影響を受けたインシデント
  • インシデント 1000
    2 レポート

    Sora Video Generator Has Reportedly Been Creating Biased Human Representations Across Race, Gender, and Disability

もっと
Entity

People with larger bodies

影響を受けたインシデント
  • インシデント 1000
    2 レポート

    Sora Video Generator Has Reportedly Been Creating Biased Human Representations Across Race, Gender, and Disability

もっと
Entity

LGBTQ+ people

影響を受けたインシデント
  • インシデント 1000
    2 レポート

    Sora Video Generator Has Reportedly Been Creating Biased Human Representations Across Race, Gender, and Disability

もっと
Entity

People of color

影響を受けたインシデント
  • インシデント 1000
    2 レポート

    Sora Video Generator Has Reportedly Been Creating Biased Human Representations Across Race, Gender, and Disability

もっと
Entity

Sora

Incidents implicated systems
  • インシデント 1000
    2 レポート

    Sora Video Generator Has Reportedly Been Creating Biased Human Representations Across Race, Gender, and Disability

もっと

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • ecd56df