Incidents associés
Comment devrions-nous nous sentir lorsqu’un journaliste d’IA accuse à tort quelqu’un de meurtre ? Et si la personne accusée à tort est une personnalité publique ? Je sais que certaines questions se posent ces derniers temps sur la responsabilité à assumer lorsqu’un système d’IA a des hallucinations, mais ici, il semble assez clair qui est en faute : une usine à boues d’IA qui vend des bêtises appelée « Hoodline » et dirigée par une société appelée Impress3.
Nous avons écrit à plusieurs reprises sur la croissance d’un journalisme de boues d’IA absolument horrible, dans lequel des sites d’information médiocres (souvent traditionnels) remplacent les journalistes par des journalistes IA terriblement écrits, enclins à mentir,, avec apparemment aucune révision éditoriale. Comme je l’ai dit, je pense qu’il y a des domaines dans lesquels les outils d’IA générative peuvent être utiles au journalisme, mais ce n’est pas pour écrire des articles de manière indépendante sans aucune révision. En effet, j’utilise des outils d’IA pour tout interroger que j’écris (y compris cet article, que l’IA n’a pas beaucoup aimé) avant de le faire relire par un éditeur humain.
Mais apparemment, d’autres s’en moquent, notamment « Hoodline ». Nous les avons mentionnés il y a quelques mois dans l’un de nos articles sur les sites d’actualités sur les boues d’IA.
Il y a quelques jours, je lisais les actualités recommandées par Google News, et une histoire a attiré mon attention, affirmant que le procureur du comté de San Mateo avait été accusé de meurtre !
Cela semblait être une grande nouvelle ! Surtout dans le comté de San Mateo où je vis. Et je n’en avais même pas entendu parler. L’article commence en affirmant à nouveau que le procureur de San Mateo avait été accusé de meurtre.
Après une audience préliminaire, le procureur du comté de San Mateo, John Caisiano Thompson, âgé de 56 ans, est détenu pour répondre de toutes les accusations liées au meurtre présumé d’une femme dans sa résidence, bien que le corps de la victime n’ait pas été retrouvé. Selon un compte rendu officiel de X du Bureau du procureur du district du comté de San Mateo, Thompson a été appréhendé après une enquête collaborative menée par le bureau du procureur et le département de police d’East Palo Alto, qui a commencé comme une recherche d’une personne disparue.
Lorsque j’ai lu cela pour la première fois, je me suis demandé si le bureau du procureur du comté de San Mateo avait transmis cette affaire à un autre procureur pour éviter le conflit d’intérêts. Mais rien de tel n’était évoqué dans l’article. En fait, plus je lisais l’article, plus il devenait clair qu’il ne s’agissait pas du tout du procureur du comté de San Mateo. C'était juste un type qu'ils ont arrêté il y a quelque temps qui a finalement été inculpé.
Oui, il y a un petit « IA » à côté de la signature du journaliste, ce qui aurait dû m'alerter. Mais je ne regardais même pas la signature, et même si je l'avais fait, je n'aurais probablement pas remarqué la petite icône « IA ».
Alors, que s'est-il passé ? Eh bien, le compte Nafnlaus sur Bluesky l'a compris.
Il essayait en fait de faire une histoire à partir d'un tweet de l'ex-compte Twitter du procureur du comté de San Mateo. Mais lorsque l'IA l'a analysé, elle a fusionné le nom du compte « San Mateo County District Attorney » avec le début du tweet, qui commence par l'accusation contre le type. Donc fusionnés, il semble que ce nom soit celui du procureur.
Une fois analysé, cela ressemble à :
Et l'IA est trop stupide pour remarquer cela ou pour faire une simple recherche pour se rendre compte que le procureur du comté de San Mateo est en fait Stephen Wagstaffe. Vous savez, le genre de chose qu'un humain pourrait réellement vérifier.
En tout cas, c'est une autre raison pour laquelle ce n'est pas la bonne façon d'utiliser l'IA dans le journalisme. Je me demande pourquoi Google met en avant un site comme Hoodline dans Google News alors qu'il publie ce genre d'absurdités. Cela devrait également alerter les gens sur le fait que tout site géré par Impress3 n'est pas du tout digne de confiance, en particulier Hoodline.