Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 46

Incidents associés

Incident 138 Rapports
High-Toxicity Assessed on Text Involving Women and Minority Groups

Loading...
Google Robo-Tool signale les commentaires des conservateurs comme "toxiques"
infowars.com · 2017

L'outil Google AI utilisé pour signaler les "commentaires offensants" a un parti pris apparemment intégré contre les points de vue conservateurs et libertaires.

L'API Perspective, un "modèle d'apprentissage automatique" développé par Google qui note "l'impact perçu qu'un commentaire pourrait avoir sur une conversation" dans la section des commentaires d'un article de presse, classe les commentaires en fonction de leur "toxicité".

Mais lors du test de son algorithme, Perspective considère généralement les commentaires conservateurs et libertaires comme plus «toxiques» que les points de discussion de l'establishment.

Par exemple:

Comme nous l'avons signalé tout au long de l'élection, Google a préféré Hillary Clinton à Donald Trump, une préférence qui n'a apparemment pas changé :

Et le débat sur l'avortement entre conservateurs et libéraux :

La perspective a été utilisée par les organes d'information de l'establishment, notamment le Guardian, le New York Times et l'Economist.

"Les organes de presse veulent encourager l'engagement et la discussion autour de leur contenu, mais constatent que trier des millions de commentaires pour trouver ceux qui sont à la traîne ou abusifs prend beaucoup d'argent, de travail et de temps", a déclaré Jared Cohen, président de Jigsaw, le Google affilié derrière Perspective. "En conséquence, de nombreux sites ont complètement fermé les commentaires, mais ils nous disent que ce n'est pas la solution qu'ils souhaitent."

Bien sûr, ce n'est pas ce qu'ils veulent; le public est de plus en plus intéressé à lire la section des commentaires que l'article lui-même, et s'il ferme les commentaires, les lecteurs fuiront vers un autre site d'information couvrant la même histoire mais avec une section de commentaires.

Alors, quel meilleur moyen de contrôler le récit que de promouvoir les commentaires pro-establishment tout en enterrant les contrepoints conservateurs et libertaires ?

Twitter faisait déjà exactement cela en épinglant les critiques du président Trump comme les principales réponses à ses tweets.

Et même avant d'utiliser Perspective, le New York Times promouvait les commentaires "Editor's Pick" qui, sans surprise, étaient d'accord avec le récit du Times.

Mais pour les articles controversés, le Times a tendance à fermer complètement les commentaires, ce qui rend bien sûr l'article moins crédible - et cela explique probablement l'intérêt des médias de l'establishment pour l'API Perspective.

De plus, Google a embauché des sous-traitants pour enterrer ou interdire carrément Infowars.com de ses moteurs de recherche, selon le journaliste d'investigation Mike Cernovich qui a reçu des documents divulgués.

"Il existe un certain nombre d'affirmations controversées, souvent démystifiées, que le site promeut régulièrement", affirme le document.

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd