Incidents associés
L’IA générative étant désormais plus répandue que jamais, l’importance de l’intervention humaine devient plus évidente. Cela fait à peine trois mois que Microsoft a publié [un article généré par l'IA recommandant la banque alimentaire d'Ottawa comme l'une des principales attractions touristiques au Canada](https://www.windowscentral.com/microsoft/microsoft-retracts-bizarre-ai-generated-article -qui-recommandait-la-banque-alimentaire-d'ottawa-comme-attraction-touristique) (bien qu'elle ait depuis été démolie), et encore un autre incident bizarre et insensible s'est produit.
The Guardian accuse Microsoft de ternir sa réputation par incorporant un sondage intitulé « Insights from AI » à côté de [un article du point de vente](https://www.theguardian.com/australia-news/2023/oct/31/lilie-james-australia-sydney-school-coach -st-andrews-cathedral-death) parlant du décès malheureux d'une femme, selon un spot de [The Verge](https://www.theverge.com/2023/10/31/23940298/ai-generated- poll-guardian-microsoft-start-news-aggregation). Le sondage présentait sans sensibilité plusieurs options, notamment le meurtre, l'accident ou le suicide, parmi lesquelles les lecteurs étaient censés choisir pour deviner comment la femme avait perdu la vie.
Ce sondage insensible a depuis été annulé, mais The Guardian indique que le mal est déjà fait, sans parler du bouleversement émotionnel causé à la famille endeuillée. Au vu des commentaires laissés sur l'article, il est évident que les lecteurs n'en étaient pas très contents. En fait, certains lecteurs pensent que ce sondage insensible était l’œuvre de l’auteur lui-même et que le média pointait du doigt AI pour brouiller les pistes.
La directrice générale du Guardian Media Group, Anna Bateson, a déjà écrit une lettre au président de Microsoft, Brad Smith, dans laquelle elle fait part de ses inquiétudes concernant le sondage généré par l'IA présenté dans son article et exprime en outre l'impact négatif potentiel qu'il pourrait ou pourrait avoir sur le média.
Il s'agit clairement d'une utilisation inappropriée de genAI [generative AI] par Microsoft sur une histoire d'intérêt public potentiellement pénible, écrite et publiée à l'origine par des journalistes du Guardian.
Anna Bateson, directrice générale de Guardian
Le directeur général a souligné l'importance de disposer d'un cadre solide en matière de droits d'auteur, car il permet aux éditeurs d'établir un contrôle sur la manière dont leur contenu est exploité. Bateson a également demandé à Microsoft de s'abstenir d'appliquer une technologie expérimentale d'IA sur ou à côté des articles du média, notamment sans son consentement. Et si tel est le cas, il est important de s’assurer que les lecteurs soient informés de l’origine des « fonctionnalités supplémentaires ».
Ce n'est pas la première fois que nous sommes témoins d'un tel événement. En septembre, un article republié via MSN est devenu viral pour avoir utilisé l'IA pour rédiger une nécrologie qui [qualifiait d'inutile un ancien joueur de la NBA de 42 ans récemment décédé.](https://www.windowscentral.com/microsoft/controversy -éclate-microsoft-news-portal-publie-ai-generated-piece-branding-deceased-nba-player-as-inutile)
The Verge a contacté Microsoft pour obtenir une déclaration concernant cet événement bizarre et la manière dont le sondage généré par l'IA a obtenu l'autorisation de l'équipe de modération. Le directeur général de Microsoft, Kit Thambiratnam, a répondu en déclarant :
"Nous avons désactivé les sondages générés par Microsoft pour tous les articles d'actualité et nous enquêtons sur la cause du contenu inapproprié. Un sondage n'aurait pas dû apparaître à côté d'un article de cette nature, et nous prenons des mesures pour empêcher ce type d'erreur de se produire. récurrent dans le futur."
L'IA a ses victoires, si [rapports récents](https://www.windowscentral.com/software-apps/chatgpts-performance-shifted-over-time-according-to-a-stanford-study-but-has-the -bot-gotten-pire) sont quelque chose à faire, il reste encore beaucoup de travail à faire. Il est également évident que l’intervention humaine reste cruciale, surtout dans un tel cas, et qu’il est très peu probable qu’un tel événement ait eu lieu.
Le président Biden a récemment publié un décret touchant à ce sujet spécifique problème, ainsi que d’autres problèmes de sûreté, de sécurité et de confiance en matière d’IA. Il sera intéressant de voir l’impact que cela aura à long terme.