Skip to Content
logologo
AI Incident Database
Faire un don
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Vue spatiale
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Incident au hasard
  • S'inscrire
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Vue spatiale
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Incident au hasard
  • S'inscrire
Traduit par IA

Incident 450: Des annotateurs de données kényans ont signalé des traumatismes psychologiques liés à l'étiquetage de textes graphiques pour les systèmes de sécurité de ChatGPT.

Traduit par IA
Description:
Traduit par IA
Des annotateurs de données de Sama à Nairobi, au Kenya, ont signalé des traumatismes psychologiques persistants après avoir annoté des textes à caractère sexuel et violent pour les systèmes de modération de contenu d'OpenAI utilisés dans ChatGPT. Ils ont dénoncé une rémunération insuffisante et un manque de soutien psychologique ; Sama a contesté certains aspects de ces allégations. Le contrat a pris fin prématurément et les anciens employés ont par la suite adressé une pétition au Parlement kényan afin d'obtenir une meilleure protection.
Editor Notes: Work began in November 2021; 11/01/2021 approximates the month because the first day is unspecified. Workers were notified of the project's termination in February 2022, with final labeled data delivered in March 2022. TIME published its investigation on 01/18/2023. The Wall Street Journal reported the workers' parliamentary petition on 07/11/2023.

Outils

Nouveau rapportNouvelle RéponseDécouvrirVoir l'historique
Le Moniteur des incidents et risques liés à l'IA de l'OCDE (AIM) collecte et classe automatiquement les incidents et risques liés à l'IA en temps réel à partir de sources d'information réputées dans le monde entier.
 

Entités

Voir toutes les entités
Alleged: OpenAI , Large language model developers et Chatbot developers developed an AI system deployed by OpenAI et Sama, which harmed Sama , Employees of Sama , Data annotators et Sama data annotators in Kenya.
Systèmes d'IA présumés impliqués: OpenAI large language models , Large language models , ChatGPT , Content moderation systems , AI training data pipelines et OpenAI toxic-content classifiers

Statistiques d'incidents

ID
450
Nombre de rapports
8
Date de l'incident
2021-11-01
Editeurs
Sean McGregor, Khoa Lam, Daniel Atherton
Applied Taxonomies
MIT

Classifications de taxonomie MIT

Machine-Classified
Détails de la taxonomie

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

6.2. Increased inequality and decline in employment quality

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Socioeconomic & Environmental Harms

Entity

Which, if any, entity is presented as the main cause of the risk
 

Human

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Pre-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Intentional

Rapports d'incidents

Chronologie du rapport

Incident Occurrence+5
Exclusif : les travailleurs à 2 $ de l'heure qui ont rendu ChatGPT plus sûr
+1
La main-d'œuvre cachée qui a aidé à filtrer la violence et les abus hors de ChatGPT
Loading...
Exclusif : les travailleurs à 2 $ de l'heure qui ont rendu ChatGPT plus sûr

Exclusif : les travailleurs à 2 $ de l'heure qui ont rendu ChatGPT plus sûr

time.com

Loading...
'C'était la torture;' OpenAI aurait compté sur des ouvriers kenyans mal payés pour passer au crible un contenu horrible afin de rendre ChatGPT acceptable

'C'était la torture;' OpenAI aurait compté sur des ouvriers kenyans mal payés pour passer au crible un contenu horrible afin de rendre ChatGPT acceptable

gizmodo.com

Loading...
Open AI a sous-payé 200 Kenyans pour perfectionner ChatGPT puis les a licenciés

Open AI a sous-payé 200 Kenyans pour perfectionner ChatGPT puis les a licenciés

qz.com

Loading...
OpenAI aurait apparemment payé 2 $/heure aux personnes du monde en développement pour qu'elles regardent le contenu le plus dérangeant qu'on puisse imaginer

OpenAI aurait apparemment payé 2 $/heure aux personnes du monde en développement pour qu'elles regardent le contenu le plus dérangeant qu'on puisse imaginer

futurism.com

Loading...
Sama a annulé le contrat ChatGPT d'OpenAI 8 mois plus tôt

Sama a annulé le contrat ChatGPT d'OpenAI 8 mois plus tôt

theinsaneapp.com

Loading...
Des travailleurs kenyans payés moins de 2 dollars de l'heure par OpenAI pour travailler sur ChatGPT, selon un rapport

Des travailleurs kenyans payés moins de 2 dollars de l'heure par OpenAI pour travailler sur ChatGPT, selon un rapport

afrotech.com

Loading...
La main-d'œuvre cachée qui a aidé à filtrer la violence et les abus hors de ChatGPT

La main-d'œuvre cachée qui a aidé à filtrer la violence et les abus hors de ChatGPT

wsj.com

Loading...
Des modérateurs kenyans dénoncent une exploitation de ChatGPT par OpenAI et Sama.

Des modérateurs kenyans dénoncent une exploitation de ChatGPT par OpenAI et Sama.

swalanyeti.co.ke

Loading...
Exclusif : les travailleurs à 2 $ de l'heure qui ont rendu ChatGPT plus sûr
time.com · 2023
Traduit par IA

Avertissement de contenu : cette histoire contient des descriptions d'abus sexuels ChatGPT a été salué comme l'une des innovations technologiques les plus impressionnantes de 2022 lors de sa sortie en novembre dernier. Le puissant chatbot d…

Loading...
'C'était la torture;' OpenAI aurait compté sur des ouvriers kenyans mal payés pour passer au crible un contenu horrible afin de rendre ChatGPT acceptable
gizmodo.com · 2023
Traduit par IA

Le monde apparemment simple, brillant et propre associé à la technologie est inévitablement presque toujours soutenu simultanément par quelque chose de plus sombre caché juste sous la surface. Des modérateurs de contenu blessés mentalement …

Loading...
Open AI a sous-payé 200 Kenyans pour perfectionner ChatGPT puis les a licenciés
qz.com · 2023
Traduit par IA

Alors que le rêve de la société de développement d'intelligence artificielle OpenAI, basée à San Francisco, de réaliser l'intelligence artificielle (IA) générale s'accélère, les rapports sur la façon dont elle a utilisé des Kényans sous-pay…

Loading...
OpenAI aurait apparemment payé 2 $/heure aux personnes du monde en développement pour qu'elles regardent le contenu le plus dérangeant qu'on puisse imaginer
futurism.com · 2023
Traduit par IA

La modération de contenu est exténuante, travail profondément traumatisant. Les travailleurs ne durent généralement pas plus d'un an, et en raison des choses horribles qu'ils doivent voir, ils se retrouvent souvent avec [un SSPT durable] (h…

Loading...
Sama a annulé le contrat ChatGPT d'OpenAI 8 mois plus tôt
theinsaneapp.com · 2023
Traduit par IA

OpenAI, une société d'intelligence artificielle, est accusée d'avoir payé moins de 2 dollars à des travailleurs kenyans pour rendre son chatbot ChatGPT moins toxique.

Ce rapport est basé sur une enquête par Time Magazine. Il affirme que les…

Loading...
Des travailleurs kenyans payés moins de 2 dollars de l'heure par OpenAI pour travailler sur ChatGPT, selon un rapport
afrotech.com · 2023
Traduit par IA

ChatGPT, un chatbot d'intelligence artificielle (IA), est devenu un sujet tendance depuis qu'il a frappé la scène technologique.

Cependant, un rapport d'enquête a été publié qui détaille l'exploitation présumée pour l'améliorer.

Selon TIME,…

Loading...
La main-d'œuvre cachée qui a aidé à filtrer la violence et les abus hors de ChatGPT
wsj.com · 2023
Traduit par IA

Cette transcription a été préparée par un service de transcription. Cette version peut ne pas être dans sa forme définitive et peut être mise à jour. Kate : Hé, c'est Kate. Aujourd'hui notre productrice Annie Minoff va vous raconter une his…

Loading...
Des modérateurs kenyans dénoncent une exploitation de ChatGPT par OpenAI et Sama.
swalanyeti.co.ke · 2023
Traduit par IA

Un groupe de modérateurs de contenu kényans, ayant joué un rôle important dans le développement du chatbot d'intelligence artificielle ChatGPT, a porté plainte contre OpenAI, la société mère de ChatGPT, et son partenaire local de modération…

Variantes

Une "Variante" est un incident de l'IA similaire à un cas connu—il a les mêmes causes, les mêmes dommages et le même système intelligent. Plutôt que de l'énumérer séparément, nous l'incluons sous le premier incident signalé. Contrairement aux autres incidents, les variantes n'ont pas besoin d'avoir été signalées en dehors de la base de données des incidents. En savoir plus sur le document de recherche.
Vous avez vu quelque chose de similaire ?

Incidents similaires

Selected by our editors

Selon certaines informations, les lunettes connectées Meta AI auraient transmis des images intimes à des examinateurs de l'entreprise kényane Sama avant la fin du contrat avec Meta.

Feb 2026 · 16 rapports
Loading...
Les modérateurs de contenu de Facebook exigent de meilleures conditions de travail en raison d'une modération de contenu par IA prétendument inadéquate

Les modérateurs de contenu de Facebook exigent de meilleures conditions de travail en raison d'une modération de contenu par IA prétendument inadéquate

Apr 2020 · 1 rapport
Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

Loading...
Le robot TayBot de Microsoft aurait publié du contenu raciste, sexiste et antisémite sur Twitter.

Le robot TayBot de Microsoft aurait publié du contenu raciste, sexiste et antisémite sur Twitter.

Mar 2016 · 28 rapports
Loading...
Analyse des sentiments biaisés

Analyse des sentiments biaisés

Oct 2017 · 6 rapports
Incident précédentProchain incident

Incidents similaires

Selected by our editors

Selon certaines informations, les lunettes connectées Meta AI auraient transmis des images intimes à des examinateurs de l'entreprise kényane Sama avant la fin du contrat avec Meta.

Feb 2026 · 16 rapports
Loading...
Les modérateurs de contenu de Facebook exigent de meilleures conditions de travail en raison d'une modération de contenu par IA prétendument inadéquate

Les modérateurs de contenu de Facebook exigent de meilleures conditions de travail en raison d'une modération de contenu par IA prétendument inadéquate

Apr 2020 · 1 rapport
Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

Loading...
Le robot TayBot de Microsoft aurait publié du contenu raciste, sexiste et antisémite sur Twitter.

Le robot TayBot de Microsoft aurait publié du contenu raciste, sexiste et antisémite sur Twitter.

Mar 2016 · 28 rapports
Loading...
Analyse des sentiments biaisés

Analyse des sentiments biaisés

Oct 2017 · 6 rapports

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2026 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • b74f812