Skip to Content
logologo
AI Incident Database
寄付する
発見する
投稿する
  • ようこそAIIDへ
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • 空間ビュー
  • ブログ
  • AIニュースダイジェスト
  • おまかせ表示
  • サインアップ
発見する
投稿する
  • ようこそAIIDへ
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • 空間ビュー
  • ブログ
  • AIニュースダイジェスト
  • おまかせ表示
  • サインアップ
自動翻訳済み

インシデント 450: ケニアのデータ注釈担当者が、ChatGPT安全システム用のグラフィックテキストのラベル付け作業で精神的外傷を負ったと報告

自動翻訳済み
概要:
自動翻訳済み
ケニアのナイロビにあるSamaのデータアノテーターたちは、ChatGPTで使用されるOpenAIのコンテンツモデレーション分類器のために、露骨な性的描写や暴力的なテキストにラベル付けを行った後、長期にわたる精神的外傷を負ったと報告した。労働者たちは低賃金と不十分な心理的サポートを訴えたが、Samaはこれらの主張の一部に異議を唱えた。契約は早期に終了し、元労働者たちは後にケニア議会に対し、より強力な保護措置を求める請願を行った。
Editor Notes: Work began in November 2021; 11/01/2021 approximates the month because the first day is unspecified. Workers were notified of the project's termination in February 2022, with final labeled data delivered in March 2022. TIME published its investigation on 01/18/2023. The Wall Street Journal reported the workers' parliamentary petition on 07/11/2023.

ツール

新しいレポート新しいレスポンス発見する履歴を表示
OECD AIインシデントおよびハザードモニター(AIM)は、世界中の信頼できるニュースソースからリアルタイムでAI関連のインシデントやハザードを自動的に収集・分類します。
 

組織

すべての組織を表示
Alleged: OpenAI , Large language model developers と Chatbot developers developed an AI system deployed by OpenAI と Sama, which harmed Sama , Employees of Sama , Data annotators と Sama data annotators in Kenya.
関与が疑われるAIシステム: OpenAI large language models , Large language models , ChatGPT , Content moderation systems , AI training data pipelines と OpenAI toxic-content classifiers

インシデントのステータス

インシデントID
450
レポート数
8
インシデント発生日
2021-11-01
エディタ
Sean McGregor, Khoa Lam, Daniel Atherton
Applied Taxonomies
MIT

MIT 分類法のクラス

Machine-Classified
分類法の詳細

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

6.2. Increased inequality and decline in employment quality

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Socioeconomic & Environmental Harms

Entity

Which, if any, entity is presented as the main cause of the risk
 

Human

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Pre-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Intentional

インシデントレポート

レポートタイムライン

Incident Occurrence+5
Exclusive: The $2 Per Hour Workers Who Made ChatGPT Safer
+1
The Hidden Workforce That Helped Filter Violence and Abuse Out of ChatGPT
Loading...
Exclusive: The $2 Per Hour Workers Who Made ChatGPT Safer

Exclusive: The $2 Per Hour Workers Who Made ChatGPT Safer

time.com

Loading...
'That Was Torture;' OpenAI Reportedly Relied on Low-Paid Kenyan Laborers to Sift Through Horrific Content to Make ChatGPT Palatable

'That Was Torture;' OpenAI Reportedly Relied on Low-Paid Kenyan Laborers to Sift Through Horrific Content to Make ChatGPT Palatable

gizmodo.com

Loading...
Open AI underpaid 200 Kenyans to perfect ChatGPT then sacked them

Open AI underpaid 200 Kenyans to perfect ChatGPT then sacked them

qz.com

Loading...
OpenAI Apparently Paid People in the Developing World $2/Hour to Look at the Most Disturbing Content Imaginable

OpenAI Apparently Paid People in the Developing World $2/Hour to Look at the Most Disturbing Content Imaginable

futurism.com

Loading...
Sama Cancelled OpenAI's ChatGPT Contract 8 Months Earlier

Sama Cancelled OpenAI's ChatGPT Contract 8 Months Earlier

theinsaneapp.com

Loading...
Kenyan Workers Paid Less Than $2 Per Hour By OpenAI To Work On ChatGPT, Report Says

Kenyan Workers Paid Less Than $2 Per Hour By OpenAI To Work On ChatGPT, Report Says

afrotech.com

Loading...
The Hidden Workforce That Helped Filter Violence and Abuse Out of ChatGPT

The Hidden Workforce That Helped Filter Violence and Abuse Out of ChatGPT

wsj.com

Loading...
ケニアのモデレーターらは、ChatGPTの開発においてOpenAIとSamaによる搾取があったと主張している。

ケニアのモデレーターらは、ChatGPTの開発においてOpenAIとSamaによる搾取があったと主張している。

swalanyeti.co.ke

Loading...
Exclusive: The $2 Per Hour Workers Who Made ChatGPT Safer
time.com · 2023

Content warning: this story contains descriptions of sexual abuse

ChatGPT was hailed as one of 2022’s most impressive technological innovations upon its release last November. The powerful artificial intelligence (AI) chatbot can generate t…

Loading...
'That Was Torture;' OpenAI Reportedly Relied on Low-Paid Kenyan Laborers to Sift Through Horrific Content to Make ChatGPT Palatable
gizmodo.com · 2023

The seemingly simple, shiny, clean world associated with tech is inevitably almost always simultaneously propped up by something darker hidden just below the surface. From mentally injured content moderators sifting through torrents of vile…

Loading...
Open AI underpaid 200 Kenyans to perfect ChatGPT then sacked them
qz.com · 2023

As San-Francisco-based AI development firm OpenAI’s dream of achieving general artificial intelligence (AI) picks up speed, reports of how it used underpaid Kenyans to remove racism, sexism, and violence from ChatGPT-3's language model are …

Loading...
OpenAI Apparently Paid People in the Developing World $2/Hour to Look at the Most Disturbing Content Imaginable
futurism.com · 2023

Content moderation is grueling, deeply traumatizing job. Workers usually don't last more than a year, and due to the horrible things they have to see, they're often left with lasting PTSD once they leave.

That said, for the internet to func…

Loading...
Sama Cancelled OpenAI's ChatGPT Contract 8 Months Earlier
theinsaneapp.com · 2023

OpenAI, an artificial intelligence company, is accused of paying less than $2 to Kenyan workers to make its ChatGPT chatbot less toxic.

This report is based upon an investigation by Time Magazine. It claims that ChatGPT’s workers in Kenya w…

Loading...
Kenyan Workers Paid Less Than $2 Per Hour By OpenAI To Work On ChatGPT, Report Says
afrotech.com · 2023

ChatGPT, an artificial intelligence (AI) chatbot, has become a trending topic since it hit the tech scene. 

However, an investigative report has been released that details the alleged exploitation to improve it.

According to TIME, OpenAI — …

Loading...
The Hidden Workforce That Helped Filter Violence and Abuse Out of ChatGPT
wsj.com · 2023

This transcript was prepared by a transcription service. This version may not be in its final form and may be updated.

Kate: Hey, it's Kate. Today our producer Annie Minoff is going to bring you a story. It's about a little known part of th…

Loading...
ケニアのモデレーターらは、ChatGPTの開発においてOpenAIとSamaによる搾取があったと主張している。
swalanyeti.co.ke · 2023
自動翻訳済み

人工知能(AI)チャットボット「ChatGPT」の開発に重要な役割を果たしたケニアのコンテンツモデレーターグループが、ChatGPTの親会社であるOpenAIと、現地のモデレーションパートナーであるSama(旧Samasource)による搾取と低賃金に抗議する声明を発表した。

モデレーターらは、絶大な人気を誇るこのチャットボットの開発過程で、搾取と低賃金に苦しめられたと主張している。彼らはケニア政府に対し、国内におけるテクノロジー企業の事業運営を規制するよう求める嘆願書を提出…

バリアント

「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか?

よく似たインシデント

Selected by our editors

Meta AIのスマートグラスが、ケニアの請負業者Samaとの契約終了前に、レビュー担当者に親密な画像を送信していたと報じられている。

Feb 2026 · 16 レポート
Loading...
Facebookのコンテンツモデレーター、AIコンテンツモデレーションが不十分との指摘を受け、労働条件の改善を要求

Facebookのコンテンツモデレーター、AIコンテンツモデレーションが不十分との指摘を受け、労働条件の改善を要求

Apr 2020 · 1 レポート
テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

Loading...
マイクロソフトのTayBotがTwitterに人種差別、性差別、反ユダヤ主義のコンテンツを投稿したとされる

マイクロソフトのTayBotがTwitterに人種差別、性差別、反ユダヤ主義のコンテンツを投稿したとされる

Mar 2016 · 28 レポート
Loading...
偏った感情分析

偏った感情分析

Oct 2017 · 6 レポート
前のインシデント次のインシデント

よく似たインシデント

Selected by our editors

Meta AIのスマートグラスが、ケニアの請負業者Samaとの契約終了前に、レビュー担当者に親密な画像を送信していたと報じられている。

Feb 2026 · 16 レポート
Loading...
Facebookのコンテンツモデレーター、AIコンテンツモデレーションが不十分との指摘を受け、労働条件の改善を要求

Facebookのコンテンツモデレーター、AIコンテンツモデレーションが不十分との指摘を受け、労働条件の改善を要求

Apr 2020 · 1 レポート
テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

Loading...
マイクロソフトのTayBotがTwitterに人種差別、性差別、反ユダヤ主義のコンテンツを投稿したとされる

マイクロソフトのTayBotがTwitterに人種差別、性差別、反ユダヤ主義のコンテンツを投稿したとされる

Mar 2016 · 28 レポート
Loading...
偏った感情分析

偏った感情分析

Oct 2017 · 6 レポート

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2026 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • b74f812