Incidents associés
Il n'y avait rien dans la [biographie de l'auteur] de Drew Ortiz (https://web.archive.org/web/20221205082417/https://www.si.com/review/author/drewortiz/) sur Sports Illustrated pour suggérer qu'il était autre chose qu'humain.
"Drew a passé une grande partie de sa vie à l'extérieur et est ravi de vous guider à travers sa liste interminable des meilleurs produits pour vous empêcher de tomber dans les périls de la nature", peut-on lire. "De nos jours, il se passe rarement un week-end sans que Drew ne soit pas en camping, en randonnée ou simplement de retour dans la ferme de ses parents."
Le seul problème? En dehors de Sports Illustrated, Drew Ortiz ne semble pas exister. Il n'a aucune présence sur les réseaux sociaux et aucun historique de publication. Et plus étrange encore, sa photo de profil sur Sports Illustrated est à vendre sur un site Web qui vend des portraits générés par l'IA, où il est décrit comme "un jeune homme adulte blanc neutre avec des cheveux courts". cheveux bruns et yeux bleus. »
Ortiz n'est pas le seul auteur généré par l'IA publié par Sports Illustrated, selon une personne impliquée dans la création du contenu qui a demandé à rester anonyme pour la protéger des répercussions professionnelles.
"Il y en a beaucoup", nous ont-ils dit à propos des faux auteurs. "Je me demandais : qu'est-ce que c'est ? C'est ridicule. Cette personne n'existe pas."
"Au bas de la page, il y aurait une photo d'une personne et une fausse description de celle-ci, comme : 'oh, John vit à Houston, au Texas. Il adore les jeux de jardin et passer du temps avec son chien, Sam. ' Des trucs comme ça", ont-ils poursuivi. "C'est juste fou."
Les écrits des auteurs d’IA donnent souvent l’impression qu’ils ont été écrits par un extraterrestre ; un article d'Ortiz, par exemple, prévient que le volleyball « peut être un c'est un peu difficile à maîtriser, surtout sans un véritable ballon avec lequel s'entraîner.
Selon une deuxième personne impliquée dans la création du contenu Sports Illustrated qui a également demandé à rester anonyme, cela est dû au fait que ce ne sont pas seulement les portraits des auteurs qui sont générés par l'IA. Au moins certains des articles eux-mêmes, ont-ils déclaré, ont également été produits à l’aide de l’IA.
"Le contenu est entièrement généré par l'IA", a déclaré la deuxième source, "peu importe combien ils disent que ce n'est pas le cas."
Après avoir posé des questions à l'éditeur du magazine, The Arena Group, tous les auteurs générés par l'IA ont disparu du site de Sports Illustrated sans explication.
Dans un premier temps, nos questions n'ont reçu aucune réponse. Mais après avoir publié cette histoire, un porte-parole d'Arena Group a fourni la déclaration suivante accusant un entrepreneur pour le contenu :
Aujourd'hui, un article a été publié alléguant que Sports Illustrated avait publié des articles générés par l'IA. D'après notre enquête initiale, ce n'est pas exact. Les articles en question étaient des critiques de produits et étaient du contenu sous licence d'une société tierce externe, AdVon Commerce. Un certain nombre d'articles sur le commerce électronique d'AdVon ont été publiés sur certains sites Web Arena. Nous surveillons continuellement nos partenaires et étions en pleine enquête lorsque ces allégations ont été soulevées. AdVon nous a assuré que tous les articles en question ont été écrits et édités par des humains. Selon AdVon, leurs rédacteurs, éditeurs et chercheurs créent et organisent du contenu et suivent une politique qui implique l'utilisation à la fois de logiciels de contre-plagiat et de contre-IA sur tout le contenu. Cependant, nous avons appris qu'AdVon avait demandé à des rédacteurs d'utiliser un stylo ou un pseudo dans certains articles pour protéger la vie privée des auteurs - des actions que nous ne tolérons pas - et nous supprimons le contenu pendant que notre enquête interne se poursuit et avons depuis mis fin au partenariat.
Il semble que l'enquête de The Arena Group consistait simplement à demander à AdVon si le contenu était généré par l'IA, et à le prendre au mot lorsqu'il disait que ce n'était pas le cas. Nos sources proches de la création du contenu ne sont pas d’accord.
La déclaration ne répond jamais non plus à l'allégation principale de notre histoire : selon laquelle Sports Illustrated a publié du contenu d'écrivains inexistants avec des portraits générés par l'IA. L’implication semble être qu’AdVon a inventé de faux écrivains, leur a attribué de fausses biographies et des portraits générés par l’IA, puis s’est arrêté là, publiant uniquement du contenu écrit par des humains à l’ancienne. C'est peut-être vrai, mais nous en doutons.
Quoi qu'il en soit, le contenu de l'IA marque une chute stupéfiante de la grâce pour Sports Illustrated, qui au cours des dernières décennies a remporté de nombreux National Magazine Awards pour son journalisme sportif et a publié des travaux de géants littéraires allant de William Faulkner à John Updike.
Mais maintenant qu'il est sous la direction de The Arena Group, certaines parties du magazine semblent s'être transformées en un village Potemkine dans lequel de faux écrivains sont inventés de toutes pièces, dotés de biographies et d'expertises tout aussi fausses pour gagner la confiance des lecteurs, et utilisé pour diffuser des guides d'achat générés par l'IA qui sont monétisés par des liens d'affiliation vers des produits qui offrent un retour financier lorsque les lecteurs cliquent dessus.
Savez-vous quelque chose sur l'utilisation par The Arena Group du contenu généré par l'IA ? Envoyez-nous un e-mail à tips@futurism.com. Nous pouvons vous garder anonyme.
Rendant le tout encore plus douteux, ces personnages générés par l’IA sont périodiquement supprimés de l’existence au profit de nouveaux.
Cet été, par exemple, Ortiz a complètement disparu du site de Sports Illustrated, sa page de profil étant redirigée vers celle d'un "Sora Tanaka." Encore une fois, il n'existe aucune trace en ligne d'un écrivain de ce nom - mais la photo de profil de Tanaka [est à vendre](https://generated.photos/face/joyful-asian-young-adult-female-with-long-brown-hair -and-brown-eyes--5f1836d41f67b00006889840) sur le même marché de portraits d'IA qu'Ortiz, où elle est répertoriée comme "une jeune femme adulte asiatique joyeuse avec de longs cheveux bruns et des yeux marrons".
"Sora a toujours été un gourou du fitness et adore essayer différents aliments et boissons", lit-on dans la biographie de Tanaka. "Mme Tanaka est ravie d'apporter son expertise en matière de condition physique et de nutrition à l'équipe d'évaluation des produits et promet de vous apporter le meilleur du meilleur."
Mais Tanaka n’a pas duré non plus. Finalement, elle a également disparu, remplacée par un autre profil ne comportant aucune photo du visage, que Sports Illustrated a supprimé avec les autres contenus générés par l'IA après que nous l'ayons contacté.
Le magazine ne remplaçait pas uniquement les profils d'auteurs. Chaque fois qu'un auteur était remplacé, les messages qu'il était censé écrire étaient réattribués au nouveau personnage, sans aucune note de l'éditeur expliquant le changement de signature.
Aucun des articles attribués à Ortiz ou aux autres noms ne contenait de divulgation sur l'utilisation de l'IA ou sur le fait que l'auteur n'était pas réel, bien qu'ils aient finalement obtenu un avertissement expliquant que le contenu avait été « créé par un tiers » et que la "rédaction de Sports Illustrated n'est pas impliquée dans la création de ce contenu."
Savez-vous quelque chose sur ce « tiers » ou sur la manière dont le contenu a été créé ? Envoyez-nous un e-mail à [tips@futurism.com] (mailto:tips@futurism.com). Nous pouvons vous garder anonyme.
Bien que les auteurs générés par l'IA de Sports Illustrated et leurs articles aient disparu après que nous ayons posé des questions à leur sujet, des opérations similaires semblent bien vivantes ailleurs dans le portefeuille de The Arena Group.
Prenez TheStreet, une publication financière cofondée par Jim Cramer en 1996 et que The Arena Group [a acheté pour 16,5 millions de dollars](https://www.businesswire.com/news/home/20190808005215/en/Maven-Closes-Acquisition-TheStreet-New -Jim-Cramer) en 2019. Comme dans Sports Illustrated, nous avons trouvé des auteurs sur TheStreet avec des biographies très spécifiques détaillant des humains apparemment en chair et en os avec des domaines d'expertise spécifiques - mais avec des photos de profil traçables sur ce même site Web de visage d'IA. Et comme chez Sports Illustrated, ces faux écrivains sont périodiquement effacés de l'existence et leurs articles sont réattribués à de nouveaux noms, sans aucune divulgation sur l'utilisation de l'IA.
Parfois, les efforts de The__Street pour supprimer les faux écrivains peuvent être bâclés. Sur sa revue page de titre de la section, par exemple, le site affiche toujours fièrement l'expertise de contributeurs générés par l'IA qui ont depuis été supprimé, renvoyant vers des profils d'écrivains décrits comme allant de "pères au foyer à analystes en informatique et en information." Cette équipe, poursuit le site, "est composée d'un groupe complet de personnes qui apportent des parcours et des expériences variés".
Personnes? Nous n’en sommes pas si sûrs.
Le « père au foyer » lié dans cette phrase ci-dessus, par exemple, est un soi-disant « [Domino Abrams](https://web.archive.org/web/20211022203137/https://www.thestreet .com/review/author/domino-abrams/)" - "un pro du nettoyage et de l'entretien de la maison", au moins jusqu'à ce qu'il soit supprimé du site - dont la photo de profil peut [être retrouvée] (https://images. generate.photos/2X9jxxHg-BqU-lY8ER7BYjhM7v7Mk1lvBdZLexTtQjo/rs:fit:256:256/czM6Ly9pY29uczgu/Z3Bob3Rvcy1wcm9k/LnBob3Rvcy92M18w/ODk3Njc1LmpwZw.jpg) sur ce même site qui vend Portraits générés par l'IA.
Ou regardez « Denise McNamara », « l'analyste de l'information » qui TheStreet se vantait de « sa vaste expérience personnelle en matière d'électronique lui permettant de partager ses découvertes avec d'autres en ligne » – dont la photo de profil est [à nouveau répertoriée](https://images.generated.photos/aArmEGQt-wLB_b9taXiittj3hoiXzDkOp8Npv-yDnSk/rs : fit:256:256/czM6Ly9pY29uczgu/Z3Bob3Rvcy1wcm9k/LnBob3Rvcy90cmFu/c3BhcmVudF92My92/M18wMzc1ODk5LnBu/Zw.png) sur le même marché de headshots AI. Ou « Nicole Merrifield », une prétendue « enseignante de première année » qui "adore aider les gens", mais dont le profil est [encore une fois de](https://images.generated.photos/a7aiK5ivGIOmRmVNbqI17mxJ6bknNdLxB6l2LQTEFkA/rs:fit:256:256/czM6Ly9pY29uczgu/Z3Bob3Rvcy1wcm9k/LnBob3Rvcy92M18w/ MTQ5Nzc5LmpwZw.jpg) ce site de portraits d'IA. (À un moment donné cette année, Abrams, McNamara et Merrifield ont été remplacés par des signatures dont les photos de profil ne sont pas en vente sur le site AI headshot.)
Un examen minutieux montre que la qualité des publications des auteurs d'IA est souvent médiocre, avec un langage bizarre et des divergences de formatage flagrantes.
Cet article sur les finances personnelles par Merrifield généré par l'IA, par exemple , commence par l'affirmation libertaire radicale selon laquelle « votre situation financière se traduit par votre valeur dans la société ».
Après cette prémisse audacieuse, l'article explique que « les personnes ayant une bonne situation financière sont vénérées et bénéficient d'avantages spéciaux partout dans le monde », et se lance dans une liste numérotée de la façon dont vous pouvez « améliorer votre situation financière » par vous-même. Cependant, chaque numéro sur ce qui devrait être une liste de cinq points n’est que le numéro un. Des erreurs peuvent se produire, mais nous ne pouvons pas imaginer que quelqu'un qui ne sait pas compter jusqu'à cinq puisse donner d'excellents conseils financiers.
Cependant, un contenu IA d’une qualité épouvantable ne devrait pas surprendre chez The Arena Group.
En février, lorsque l'entreprise a commencé à publier des conseils de santé générés par l'IA dans son magazine Men's Journal, [nous avons découvert que son premier article](https://futurism.com/neoscope/magazine-mens-journal-errors-ai- article sur la santé) était truffé d'erreurs, ce qui l'a incité à publier une correction massive.
Avant cela, lorsque The Arena Group avait annoncé pour la première fois son incursion dans l'IA, son PDG Ross Levinsohn avait promis dans une [interview avec The Wall Street Journal](https://www.wsj.com/articles/sports-illustrated-publisher-taps- ai-to-generate-articles-story-ideas-11675428443) que sa qualité serait exceptionnelle.
"Il ne s'agit pas de" lancer du contenu IA et d'en faire autant que vous pouvez "", a-t-il déclaré au journal au début de cette année. "Google vous pénalisera pour cela et plus n'est pas mieux ; mieux c'est mieux."
Inutile de dire que ni les faux auteurs qui sont soudainement remplacés par des noms différents, ni le contenu généré par l'IA de qualité déplorable sans aucune divulgation ne ressemblent à du bon journalisme, et le voir publié par un magazine autrefois emblématique comme Sports Illustrated est décourageant. Les signatures existent pour une raison : elles accordent le crédit là où il est dû et, tout aussi important, elles permettent aux lecteurs de demander des comptes aux écrivains.
Le contenu non divulgué de l’IA est un affront direct au tissu éthique des médias, en d’autres termes, sans parler d’une recette parfaite pour éroder la confiance des lecteurs. Et en fin de compte, il s’agit tout simplement d’un comportement remarquablement irresponsable que nous ne devrions voir nulle part – et encore moins normalisé par un éditeur à haute visibilité.
Le groupe Arena n’est pas non plus seul. Alors que de puissants outils d’IA générative ont fait leurs débuts au cours des dernières années, de nombreux éditeurs ont rapidement tenté d’utiliser cette technologie pour produire du contenu monétisable.
Cependant, dans presque tous les cas, ces efforts visant à éliminer les journalistes humains se sont retournés contre eux de manière embarrassante.
Nous avons attrapé CNET et Bankrate, tous deux détenus par Red Ventures, publiant du contenu d'IA à peine divulgué et rempli d'erreurs factuelles et même de [plagiat](https://futurism.com /cnet-ai-plagiat); dans la tempête de critiques qui a suivi, CNET a publié des corrections pour plus de la moitié ses articles générés par l'IA. G/O Media a également publié du matériel généré par l'IA sur son portefeuille de sites, ce qui a entraîné des erreurs embarrassantes sur Gizmodo et The A.V. Club. Nous avons attrapé BuzzFeed en train de publier une IA bâclée -guides de voyage générés. Et USA Today et d'autres journaux de Gannett ont été interrompus des résumés sportifs hilarants générés par l'IA que l'un des journalistes sportifs de l'entreprise décrit comme « embarrassant », affirmant qu'ils « n'auraient jamais dû » être publiés.
Si une organisation médiatique trouve un moyen de s’engager dans l’IA générative d’une manière qui ne soit ni terriblement malavisée ni totalement contraire à l’éthique, nous sommes tout ouïe. En attendant, pardonnez-nous si nous ne retenons pas notre souffle.
Divulgation : la société mère de Futurism, Recurrent Ventures, a déjà travaillé avec AdVon en 2022 via son partenariat pour distribuer une sélection de contenu sur des plateformes de commerce électronique tierces. Ce contenu a été rédigé par les contributeurs de Recurrent. Actuellement, Recurrent entretient une relation commerciale avec eux pour tester le contenu Commerce à l'échelle internationale pour certaines marques (dont Futurism n'en fait pas partie). Le contenu AdVon n'a jamais été publié sur Futurism ou sur aucun des sites Web de Recurrent.