Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 2519

Incidents associés

Incident 4531 Rapport
Twitter's AI Moderation Tool Misidentified Rockets as Pornography

Loading...
Twitter continue de confondre les fusées pour le contenu «intime» en raison de la dépendance de la plate-forme aux outils d'apprentissage automatique, selon un rapport
businessinsider.com · 2023

Un ancien employé de Twitter a déclaré que la société d'Elon Musk pouvait confondre des photos de fusées avec du contenu intime en raison de la dépendance de la plate-forme aux outils d'apprentissage automatique, par [Quartz](https://qz.com/elon-musks-twitter-thinks-rockets-are -contenu-intime-1849948941).

La confusion a entraîné la suspension de plusieurs comptes Twitter sur les lancements de fusées de la plate-forme.

Quartz a interviewé un ex-employé anonyme qui travaillait sur les systèmes de modération de contenu de Twitter. Ils ont déclaré au point de vente que les outils étaient connus pour identifier à tort les images appropriées pour le contenu pornographique. Cela pourrait inclure, par exemple, une photo de pédicure qui contient beaucoup de pixels de couleur chair.

"Vous pouvez imaginer comment une fusée peut être mal identifiée", a déclaré l'ancien ouvrier à Quartz.

Un compte Twitter peut être suspendu lorsque les outils sont certains à 95% que la publication a enfreint les règles de la plateforme, a ajouté l'ancien modérateur de contenu Twitter.

Ils ont déclaré dans le rapport que si Twitter voulait moins s'appuyer sur des modérateurs humains, cela pourrait réduire les seuils de précision des outils d'apprentissage automatique, qui distinguent le contenu sensible, sans signaler chaque publication comme inappropriée.

"L'inconvénient de le faire est une augmentation du taux d'erreurs - en substance, une censure plus incorrecte", a déclaré l'ancien employé à Quartz.

Depuis que Musk a acquis Twitter fin octobre, la société [licencie](https://www.businessinsider.com/elon-musks-twitter-identifies-thousands-who-will-be-laid-off-2022-11?utm_medium =referral&utm_source=yahoo.com) environ la moitié de ses effectifs, y compris certains employés chargés de [modérer le contenu](https://www.businessinsider.com/election-integrity-is-top-priority-for-twitter-despite- licenciements-exec-2022-11) sur le site.

Spaceflight Now, avec [Michael Baylor,](https://twitter.com/NASASpaceflight/status/1610473148448661505?s= 20&t=Xe72ItZq2M_Ky3_Sjd9XHQ) qui diffuse en direct les lancements pour NASASpaceflight, et Starbase Watcher, qui suit l'activité dans les installations de SpaceX au Texas, ont tous été verrouillés hors de leurs comptes après avoir publié du contenu sur un lancement de SpaceX mardi.

Le photographe de vols spatiaux John Kraus a déclaré son compte a également été suspendu après avoir partagé une vidéo du lancement d'Artemis I de la NASA. Les quatre comptes ont depuis été déverrouillés.

Selon une capture d'écran vue par Insider, Twitter a signalé le tweet de Spaceflight Now comme "violant notre règles contre la publication ou le partage de médias intimes produits/distribués en privé de quelqu'un sans son consentement exprès."

De même, Starbase Watcher a déclaré que son compte a été suspendu parce que Twitter a affirmé que l'un de ses tweets contenait du contenu intime.

En réponse à un tweet d'un collègue de Baylor concernant la suspension de son compte, Musk a répondu "on dirait que notre reconnaissance d'image a besoin d'être retravaillée !"

La confusion ne s'est pas seulement produite sous la direction de Musk. Auparavant, une astronome a été exclue de son compte Twitter pendant des mois après qu'une vidéo d'un météore qu'elle a publiée a été signalée comme "contenu intime", selon la BBC.

Twitter n'a pas immédiatement répondu à la demande de commentaire d'Insider faite en dehors des heures normales de travail aux États-Unis.

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd