Incidents associés
Le violoniste du Cap-Breton, Ashley MacIsaac, a vu un concert annulé et craint pour sa sécurité après que Google l'ait, selon lui, décrit à tort comme un délinquant sexuel dans un résumé généré par son IA la semaine dernière.
Il s'apprêtait à donner un concert vendredi dernier à la Première Nation de Sipekne'katik, au nord d'Halifax, lorsqu'il a appris que les dirigeants avaient changé d'avis. On lui a expliqué qu'ils avaient lu en ligne qu'il avait été condamné pour incitation de mineurs sur Internet et agression sexuelle.
Ces informations sont fausses et il s'est avéré par la suite que le résumé de recherche généré par l'IA de Google avait confondu la biographie de M. MacIsaac avec celle d'un autre homme, apparemment un résident de Terre-Neuve-et-Labrador portant le même nom de famille. La Première Nation de Sipekne'katik a depuis présenté ses excuses à M. MacIsaac et Google a corrigé les résultats de recherche le concernant.
Cette erreur illustre les conséquences imprévues de la désinformation agrégée par l'IA à une époque où les géants de la tech se livrent une véritable course à la domination de ce secteur en pleine expansion. « Google a fait une grosse erreur, et ça m'a mis en danger », a déclaré M. MacIsaac lors d'une interview.
Le violoniste confie que cette mésaventure l'inquiète pour sa sécurité. Il craint qu'une victime d'agression sexuelle, influencée par ces fausses informations, ne le confronte. Il s'inquiète également du travail qu'il a pu perdre sans le savoir, si des promoteurs et des salles de spectacle ont décidé de ne pas le programmer à cause de ces informations erronées diffusées par les moteurs de recherche.
Les conséquences professionnelles pourraient s'étendre à sa capacité d'entrer aux États-Unis pour des concerts, compte tenu de la surveillance accrue de ses activités sur les réseaux sociaux par les agents frontaliers. Il considère son expérience comme un avertissement pour les autres.
« Il est important de vérifier sa présence en ligne pour voir si le nom d'une autre personne y apparaît », a déclaré M. MacIsaac.
Le musicien, lauréat d'un prix Juno, a accédé à la célébrité dans les années 90 en fusionnant la musique celtique traditionnelle avec des éléments avant-gardistes de hip-hop, de musique électronique et de punk rock – tout en s'attirant parfois la controverse pour des comportements et un mode de vie qui seraient considérés comme prosaïques aujourd'hui, ou pour des remarques qu'il qualifiera plus tard de sarcastiques. "https://www.huffpost.com/archive/ca/entry/ashley-macisaac-considers-federal-politics-despite-the-musician_n_3976824").
Le seul antécédent judiciaire connu de M. MacIsaac remonte à plus de vingt ans et concerne une affaire de possession de cannabis, pour laquelle il a été acquitté.
La Première Nation de Sipekne'katik a présenté ses excuses à M. MacIsaac vendredi dernier et a indiqué qu'il serait le bienvenu pour se produire dans leur communauté à l'avenir.
« Nous regrettons profondément le préjudice que cette erreur a causé à votre réputation, à vos moyens de subsistance et à votre sentiment de sécurité personnelle », a écrit Stuart Knockwood, directeur général de la Première Nation, au nom de son chef et de son conseil. Les représentants de la Première Nation de Sipekne'katik n'ont pas répondu aux demandes de commentaires.
La lettre, que M. MacIsaac a partagée avec le Globe and Mail, poursuit : « Il est important pour nous de préciser que cette situation résulte d'une erreur d'identité causée par une intelligence artificielle et ne reflète en rien qui vous êtes. »
Les informations affichées dans les résultats de recherche Google pour le nom de M. MacIsaac ont évolué depuis qu'il a publié un message à ce sujet sur les réseaux sociaux la semaine dernière. Une recherche avec le seul nom de M. MacIsaac ne renvoie plus de biographie générée par une IA. Jeudi, une recherche incluant à la fois son nom et une ville liée à l'autre M. MacIsaac a renvoyé un résultat indiquant qu'il avait été « reconnu coupable d'agression sexuelle ». Ce résumé n'apparaît plus.
Dans un courriel, Wendy Manton, porte-parole de Google, a déclaré : « La recherche, y compris les résumés générés par l’IA, est dynamique et évolue fréquemment afin d’afficher les informations les plus pertinentes. Lorsque des problèmes surviennent – par exemple, si nos fonctionnalités interprètent mal le contenu web ou manquent de contexte – nous utilisons ces exemples pour améliorer nos systèmes et pouvons prendre des mesures conformément à nos politiques. »
Internet est en pleine restructuration, les entreprises intégrant l’IA générative à leurs produits. Google, l’une des entreprises les plus valorisées au monde, s’efforce d’intégrer des résumés de recherche générés par l’IA afin de conserver son avance, tandis que des services comme ChatGPT d’OpenAI lui font une concurrence féroce. Des médias canadiens, dont le Globe and Mail, ont intenté une action en justice contre OpenAI en 2024 pour violation présumée du droit d'auteur. Ils l'accusaient d'avoir extrait du contenu d'actualités protégé sans autorisation ni rémunération afin d'entraîner ses modèles.
Clifton van der Linden, professeur agrégé à l'Université McMaster et spécialiste de la désinformation générée par l'IA, a décrit la situation de M. MacIsaac comme la conséquence d'une évolution des attentes du public envers les moteurs de recherche à l'ère de l'IA.
« On assiste à une transition des moteurs de recherche : ils passent de simples outils de navigation à de véritables narrateurs », a déclaré le professeur van der Linden. « Je dirais qu'il existe des preuves suggérant que les résumés générés par l'IA sont perçus comme faisant autorité par les utilisateurs non experts. »
Ceci, dit-il, peut avoir des conséquences néfastes. Mais la course actuelle à l'IA, explique-t-il, n'incite pas à la précision ; au contraire, elle incite des entreprises comme Google à maintenir leur position dominante.
« Google souhaite reproduire la stratégie qui lui a permis de devenir le moteur de recherche par défaut dans le monde : offrir un retour sur investissement suffisamment fiable à une part suffisamment importante de la population pour devenir le moteur de recherche de référence pour trouver des informations. »