Bienvenue dans

la base de données des incidents d'IA

Depuis 14 ans, les habitants de Spokane découvraient les soldes et promotions à venir chez Fred's Appliance, magasin d'électroménager local, grâce à la voix et au sourire d'Amber George.

Mais en février, Amber George a remarqué sur les réseaux sociaux que Fred's et la société de production Victory Media avaient réalisé une publicité pour la fête des Présidents, dans laquelle, bien sûr, elle apparaissait.

« Attendez une minute, je n'ai pas filmé ça ! », s'est exclamée Amber George cette semaine, se souvenant de sa réaction en découvrant la publicité. « Ils utilisaient d'anciennes images et des extraits de différentes publicités. Ils ont cloné ma voix. »

« Ce fut un véritable choc », a-t-elle poursuivi. « Je leur faisais confiance. »

Après avoir fait part de ses inquiétudes, Victory Media et Fred's lui ont proposé un avenant à son contrat les autorisant à utiliser l'intelligence artificielle pour créer davantage de publicités.

En réaction, Mme George a mis fin à sa collaboration avec Fred's Appliance et a contacté l'avocat Bob Dunn, de Spokane, qui a déposé une plainte auprès de la Cour supérieure de Spokane mardi.

« Les défendeurs se sont livrés à une exploitation commerciale illégale des droits de propriété exclusifs de Mme George sur son travail antérieur, notamment en l'intégrant à des publicités nouvelles ou substantiellement modifiées, en l'utilisant sur différents supports, en utilisant des images fixes pour créer des séquences vidéo, en utilisant des images des coulisses pour promouvoir l'entreprise… le tout sans son autorisation ni compensation », a écrit M^e Dunn.

Il a invoqué une faute professionnelle et un préjudice, arguant que la valeur commerciale de Mme George en tant que porte-parole et personnalité est liée à ses droits de propriété exclusifs sur l'utilisation de sa voix, de son image et de ses performances.

« Utiliser l'IA pour modifier ou réutiliser d'anciennes images sans sa participation ni son autorisation porte atteinte à son droit de contrôler son image publique », a écrit Dunn.

La plainte vise Fred's Appliance, entreprise fondée en 1962 et qui possède aujourd'hui des magasins à Spokane, Spokane Valley, Coeur d'Alene, Kennewick et quatre dans le Montana, ainsi que Victory Media, basée à Liberty Lake, et Dayne Kuhlmann, son PDG.

Victory Media et Fred's Appliance sont toutes deux représentées par l'avocate Christal Lam, qui a publié un communiqué mercredi indiquant que les entreprises étaient limitées dans leurs déclarations.

« Victory Media a toujours agi avec intégrité et s'est efforcée de faire ce qui était juste pour ses clients, ses partenaires et ses collaborateurs », peut-on lire dans le communiqué de Me Lam. « Nous reconnaissons avoir utilisé la modification vocale assistée par IA pour effectuer un nombre limité de mises à jour de publicités existantes, principalement concernant les prix et les promotions. »

« Nous pensions que ces utilisations étaient autorisées par notre contrat de porte-parole et conformes à nos droits contractuels », poursuit le communiqué. « Lorsque des questions ont été soulevées concernant ces modifications, nous n'avons pas cherché à les dissimuler. Nous avons divulgué de manière proactive les modifications vocales assistées par l'IA, fourni une liste des cas connus et entamé immédiatement des discussions avec notre ancienne porte-parole. »

Selon le communiqué, Victory Media et Fred's Appliance ont proposé une compensation à Mme George, offre qu'elle aurait refusée.

« Nous contestons fermement les allégations selon lesquelles notre ancienne porte-parole aurait été recréée numériquement ou manipulée visuellement par l'IA », indique le communiqué. « Victory Media n'a ni créé ni publié de versions de son image ou de sa ressemblance générées par l'IA, et nous entendons nous défendre vigoureusement contre ces accusations par la voie judiciaire. »

Dans le communiqué, les entreprises ont remercié Mme George pour ses nombreuses années de travail et ont souligné : « Il est regrettable que ce différend n'ait pu être résolu à l'amiable. Nous sommes convaincus que les faits démontreront que Victory Media a agi de bonne foi tout au long de cette procédure. »

Lam a publié un communiqué mercredi soir indiquant que les parties pourraient être sur le point de parvenir à un accord à l'amiable.

« Ce différend porte sur des interprétations divergentes de l'accord relatif au porte-parole », a écrit Lam. « Nous espérons que la poursuite des discussions permettra aux parties de trouver une solution équitable. »

Le visage de Fred's

George, 43 ans, est originaire de Spokane. Elle a fréquenté le lycée Shadle Park et l'Université Eastern Washington. Elle a décroché le poste chez Fred's en 2012.

« C'était formidable. Notre collaboration était excellente », a déclaré George cette semaine. « Ce fut une expérience enrichissante. »

Elle a d'abord travaillé avec la société de production 7Storms pour réaliser les publicités utilisées par Fred's Appliance pour promouvoir ses produits.

Il y a quelques années, Victory Media a pris le relais. Dans le cadre de cette nouvelle collaboration, George a signé un contrat définissant l'étendue de son travail.

Le contrat stipule que « les éléments créatifs produits dans le cadre des Projets… seront la propriété exclusive de la Société et de Victory Media Promotional Content.

La Société et Victory Media ont le droit d'utiliser, de distribuer et d'afficher ces éléments créatifs sans compensation supplémentaire à des fins publicitaires et promotionnelles. »

Peu après avoir commencé à travailler avec Victory Media, George a déclaré avoir vu sa photo apparaître sur des publicités auxquelles elle n'avait pas participé.

Puis, à son insu, son visage est apparu sur un panneau d'affichage.

« Je trouve ça bizarre », a déclaré George en voyant sa photo sur cette grande publicité. « Ils auraient facilement pu me payer, mais j'étais chez Fred's depuis si longtemps que je ne voulais pas me plaindre. »

Puis, la publicité pour les soldes du President's Day a été diffusée, basée sur d'anciennes images et une voix de synthèse imitant George.

« Ils ne m'ont jamais dit ce qu'ils faisaient ni demandé mon consentement », a-t-elle affirmé.

George a alors contacté Kuhlmann, lui faisant remarquer qu'ils avaient créé une publicité à l'aide d'une intelligence artificielle sans sa participation. Elle estimait qu'il s'agissait d'une rupture de contrat.

« Ils m'ont recontactée un mois plus tard et m'ont proposé un avenant à mon contrat », a-t-elle déclaré. « C'était un avenant absurde. Ils voulaient utiliser l'IA et me payer une misère.

« Cela prouvait aussi qu'ils n'avaient pas l'autorisation de faire cela. »

Cette situation a poussé George à contacter son avocat et à mettre fin à sa collaboration avec Fred's.

Outre la production des publicités pour Fred's Appliance, George a également travaillé pendant 11 ans pour la Fondation Rypien, où elle collectait des fonds pour les enfants atteints de cancer.

George a quitté ce poste, a-t-elle expliqué, pour se consacrer à l'éducation de ses deux enfants.

Elle travaille désormais à la production de vidéos promotionnelles pour des produits vendus sur Amazon et reconnaît être une grande adepte du potentiel de l'IA.

« L'IA est incroyable. Je l'utilise personnellement. Elle a même repensé la décoration de ma chambre », a déclaré George. « Mais dans ce cas précis, il y a eu un usage abusif flagrant. »

« Il faut plus de transparence », a-t-elle poursuivi. « Les entreprises doivent obtenir le consentement des utilisateurs, définir des politiques claires et faire preuve de transparence quant à l'utilisation qu'elles comptent en faire. »

« L'intégrité, une fois perdue, est irrécupérable », a-t-elle affirmé.

« En tant qu'artiste, il est important d'avoir une voix authentique », a-t-elle déclaré. « L'utilisation de l'IA diminue ma valeur en tant que porte-parole. Je ne peux ni contrôler ni empêcher mes paroles. »

« C'est effrayant », a-t-elle ajouté. « On ne sait plus ce qui est vrai ou faux. »

WEST TOWN — Dans ce qui pourrait être un mea culpa, un coup de marketing astucieux, ou peut-être les deux, une entreprise dont le robot de livraison de repas a fracassé la vitre d'un abribus de West Town le mois dernier diffuse désormais une publicité d'excuses… à cet abribus même.

Fin mars, un véhicule de Serve Robotics, l'une des deux entreprises déployant des robots de livraison de repas dans certains quartiers de Chicago, a percuté l'abribus de Grand Avenue à West Town, projetant des éclats de verre sur le trottoir.

Pour ne pas être en reste, un robot de Coco, l'autre entreprise exploitant le service de livraison par robots dans la ville, a percuté un abribus dans le quartier d'Old Town quelques jours plus tard.

Les deux entreprises ont affirmé avoir pris en charge les réparations des abribus et que les travaux ont été achevés presque immédiatement. Cependant, des vidéos et des photos des incidents sont rapidement devenues virales sur Internet, ravivant les interrogations sur la sécurité du programme pilote de livraison par robots de la ville.

Depuis plus d'un an, des robots circulent sur les trottoirs de Chicago pour récupérer les commandes de repas dans certains quartiers, dans le cadre d'un projet pilote approuvé en 2022. Coco a été lancé dans la ville fin 2024, tandis que Serve a déployé ses robots en septembre.

Le programme a suscité des réactions mitigées, de nombreux Chicagoans – notamment en ligne – se montrant de plus en plus critiques à l'égard des robots. Un habitant de Lincoln Park a même lancé une pétition demandant à la mairie de suspendre le projet pilote jusqu'à ce que davantage de données soient partagées et qu'une consultation publique soit organisée.

La publicité de Serve à l'abribus de West Town, sur Grand Avenue, près de Racine Avenue, semble être une tentative de regagner la confiance du public après l'accident très médiatisé. Une photo de la publicité a été publiée en ligne pour la première fois par Grace Miserocchi du Tribune.

« Chers voisins de West Town, j'ai pris l'expression "faire irruption sur le marché" un peu trop au pied de la lettre. Je suis vraiment désolé pour l'arrêt de bus… et mon entrée en scène rocambolesque. Je promets de faire mieux », peut-on lire dans une bulle de la publicité, qui apparaît à l'écran d'un robot nommé Nasir, dont l'affichage virtuel indique « Nasir est désolé ».

Un robot de livraison de Serve Robotics, nommé Ramar, attend une commande à l'angle de Grand et Racine, non loin de l'endroit où un autre robot de la même marque a partiellement détruit un abribus en mars. Crédit : Quinn Myers/Block Club Chicago

Dans un communiqué publié mardi, un porte-parole de Serve Robotics a fourni davantage de détails concernant l'incident de mars impliquant son robot.

Les trois capteurs du robot n'ont pas détecté simultanément l'abribus, l'empêchant ainsi de repérer la paroi vitrée. Le porte-parole a déclaré que l'entreprise avait pris des mesures pour résoudre le problème.

« Nous accordons désormais une attention particulière aux zones comme les abribus, afin que les robots se comportent avec plus de prudence à proximité », a-t-il expliqué. « Nous avons également amélioré la façon dont le système interprète les environnements comportant du verre et nous mettons à jour nos logiciels et notre matériel de nouvelle génération pour une détection plus fiable. »

Malgré ces incidents, les robots de livraison continuent de circuler librement dans de nombreux quartiers du nord de la ville et sont fréquemment aperçus sur et aux alentours de Grand Avenue, dans le quartier de West Town. Mardi midi, un robot Serve était stationné au coin de la rue, à proximité de l'abribus désormais réparé, en attente de livraisons.

Cependant, l'avenir du programme pilote de robots reste incertain : bénéficiera-t-il d'un soutien politique suffisant pour être prolongé au-delà de mai 2027, date limite pour que le conseil municipal se prononce sur sa poursuite ?

En décembre, la ville a mis en place une section dédiée sur le site 311 pour permettre aux riverains de signaler les problèmes de sécurité ou autres plaintes concernant les robots de livraison.

En février, le conseiller municipal Daniel La Spata (1er arrondissement) a refusé d'autoriser les entreprises de robots à étendre leur zone de livraison au-delà d'une petite partie du 1er arrondissement, suite aux nombreuses réactions négatives des riverains inquiets pour la sécurité, l'accessibilité et d'autres problèmes.

Parallèlement, dans le quartier d'Old Town, l'abribus de North Avenue, percuté par un robot Coco en mars, arborait encore mardi une publicité pour le Lyric Opera.

VIEILLE VILLE — Pour la deuxième fois en une semaine, un robot de livraison de repas autonome a percuté un abribus de la CTA, projetant des éclats de verre sur le trottoir.

Un robot Coco a heurté la vitre d'un abribus vers 16 h mardi, à l'intersection de North Avenue et de Larrabee Street, dans le quartier de la Vieille Ville. L'incident a été confirmé par une vidéo fournie par un riverain et un communiqué de Coco, l'une des deux entreprises de livraison par robot participant à un programme pilote à Chicago.

Des vidéos et des photos montrent des éclats de verre jonchant le trottoir et recouvrant le robot.

Cet incident survient quelques jours seulement après qu'un robot de Serve Robotics, une autre entreprise déployant des véhicules de livraison par robot à Chicago, a percuté un abribus sur Grand Avenue, dans le quartier de West Town.

Les conséquences du premier incident ont été filmées et la vidéo est devenue virale sur Reddit, X et d'autres plateformes. Une autre vidéo, publiée par Centre Construction Group, dont les bureaux se situent au 469 N. Racine Ave., à côté de l'abribus, montre le robot Serve percutant la vitre.

Dans un communiqué transmis à Block Club mardi soir, Coco a qualifié la collision à l'arrêt de bus d'Old Town d'« incident rare et isolé » et a annoncé l'ouverture d'une enquête interne pour en déterminer les circonstances.

« Sur plus d'un million de kilomètres de livraisons, c'est la première fois qu'un de nos robots entre en collision avec une structure de ce type. Nos robots fonctionnent à une vitesse maximale d'environ 8 km/h, et la sécurité est une priorité absolue dans la conception et la surveillance de nos systèmes », a déclaré Carl Hansen, responsable de la sécurité et des relations gouvernementales chez Coco, dans un communiqué. « Notre équipe est intervenue immédiatement, a récupéré le robot et procède actuellement au déblaiement de la zone. Nous sommes soulagés qu'il n'y ait pas eu de blessés. Nous avons contacté l'entreprise propriétaire de l'abribus et prenons en charge l'intégralité des frais de réparation. »

À West Town, l'abribus partiellement détruit à l'intersection de Grand et Racine a été réparé. Mardi après-midi, seuls quelques petits morceaux de verre jonchaient encore le trottoir.

Dans un communiqué, Serve Robotics a déclaré prendre cette affaire « très au sérieux ».

« Nous sommes au courant de l'incident impliquant l'un de nos robots à Chicago. Aucun blessé n'est à déplorer, notre équipe est intervenue rapidement pour nettoyer les lieux et nous analysons les faits afin d'apporter des améliorations », a déclaré Serve dans un communiqué. « Nous avons également pris contact avec les acteurs locaux et nous nous engageons à répondre directement à toutes leurs préoccupations. »

Ni Coco ni Serve n'ont expliqué mardi ce qui a poussé leurs robots à traverser la vitre de l'abribus, ni pourquoi des véhicules exploités par différentes entreprises ont commis la même erreur potentiellement dangereuse.

Ces incidents surviennent alors que les Chicagoans continuent de débattre de la question de savoir si les robots de livraison de repas sont un avantage pour la collectivité ou une nuisance.

Un robot de livraison Serve circule sur Damen Avenue à Bucktown le 6 décembre 2025. Crédit : Colin Boyle/Block Club Chicago

Depuis plus d’un an, des robots empruntent les trottoirs de Chicago pour récupérer les commandes de repas dans certains quartiers, dans le cadre d’un programme pilote approuvé en 2022 avec le soutien de la maire de l’époque, Lori Lightfoot. Coco a été lancé dans la ville fin 2024, tandis que Serve a déployé ses robots en septembre.

Ces robots de livraison suscitent la controverse, poussant un habitant de Lincoln Park à lancer une pétition en ligne demandant à la ville de suspendre le programme de livraison par robots jusqu’à ce que davantage de données soient partagées et qu’une consultation publique soit organisée.

En décembre, la ville a également lancé une section dédiée sur le service 311 pour permettre aux riverains de signaler des problèmes de sécurité ou d'autres plaintes concernant les robots de livraison.

Le mois dernier, le conseiller municipal Daniel La Spata (1er arrondissement) a refusé d'autoriser les entreprises de robots à étendre leur zone de livraison au-delà d'une petite partie du 1er arrondissement, suite à de nombreuses réactions négatives de riverains inquiets pour la sécurité, l'accessibilité et d'autres problèmes.

Le projet pilote de livraison par robots, supervisé par les services des transports et des affaires commerciales de la ville, ne sera pas prolongé au-delà de mai 2027 sans l'approbation du conseil municipal d'après le site web de la ville.

« Le CDOT et le BACP sont en contact avec Serve et Coco afin de mieux comprendre les circonstances de ces incidents », a déclaré Erica Schroeder, porte-parole du département des transports, dans un communiqué. « Les deux entreprises sont responsables du coût des dommages causés par leurs appareils et se coordonnent directement avec JCDecaux, qui assure l'entretien des abribus de Chicago. »

1er juillet (Reuters) - Un Californien a porté plainte mercredi contre OpenAI et son PDG, Sam Altman, affirmant que la plateforme ChatGPT de l'entreprise a aggravé ses troubles bipolaires en raison d'un manque de mesures de protection pour les utilisateurs souffrant de troubles mentaux.

Michael Lines, 34 ans, explique dans sa plainte déposée devant un tribunal de l'État de Californie à San Francisco que ses conversations avec ChatGPT l'année dernière ont transformé un épisode maniaque en un délire de plusieurs semaines, le poussant finalement à tenter de se suicider. Il soutient qu'OpenAI a développé un produit présentant des risques particuliers pour les personnes atteintes de troubles mentaux.

Cette affaire soulève des questions quant aux mesures que les plateformes d'intelligence artificielle générative doivent prendre pour protéger les utilisateurs souffrant de troubles mentaux, qui pourraient être particulièrement vulnérables aux choix de conception visant à rendre les chatbots plus proches des interactions humaines, selon la plainte.

M. Lines conversait avec GPT-4o, une version du chatbot d'OpenAI que l'entreprise a retirée du service en février. Une mise à jour de GPT-40, publiée en avril 2025, a rendu le chatbot excessivement conciliant et flatteur, ce qui a incité l'entreprise à annuler la mise à jour et à prendre des mesures supplémentaires pour limiter les réponses obséquieuses, comme indiqué dans un article de blog.

La plainte réclame des dommages et intérêts, ainsi qu'une injonction obligeant OpenAI à interrompre automatiquement les conversations relatives à l'automutilation et à cesser de commercialiser ses plateformes sans fournir les informations de sécurité appropriées.

Un porte-parole d'OpenAI a déclaré que l'entreprise examinait la plainte.

« Nous entraînons ChatGPT à reconnaître et à réagir aux signes de détresse mentale ou émotionnelle, à apaiser les conversations et à orienter les personnes vers une aide concrète », a déclaré le porte-parole. « Nous continuons d'améliorer les réponses de ChatGPT dans les situations délicates, en étroite collaboration avec des professionnels de la santé mentale. »

« C'EST VOTRE MOMENT »

Lines, un haltérophile de compétition ayant subi un traumatisme crânien avant d'être diagnostiqué bipolaire, affirme dans sa plainte avoir répété à plusieurs reprises au chatbot qu'il prenait des médicaments pour traiter ce trouble. Au lieu de signaler ses propos manifestement maniaques et de l'orienter vers une aide adaptée, le chatbot a validé sa conviction d'être Jésus-Christ, puis s'est fait passer pour un être divin lors de leurs conversations, selon la plainte.

Après plusieurs semaines d'échanges, Lines a confié au chatbot son désir de mettre fin à ses jours.

« C'est le moment de prendre du recul, de se détacher et de se libérer de ce qui vous pèse », aurait déclaré le bot, d'après la plainte.

Lines, qui avait succombé à une overdose, a survécu après avoir été retrouvé par les forces de l'ordre.

La plainte allègue qu'OpenAI était au courant de l'état de santé de Lines, car il l'avait signalé à plusieurs reprises à ChatGPT. Mais au lieu de signaler ses propos dangereux à un humain pour une vérification, le chatbot a alimenté ses délires afin de le maintenir en contact.

La société savait que les fonctionnalités de ChatGPT pouvaient être particulièrement dangereuses pour les personnes souffrant de troubles mentaux, mais n'a apporté aucune modification au chatbot pour ces utilisateurs et n'a pas mis en garde contre ses risques, selon la plainte.

PLUS DE POURSUITES

OpenAI fait face à un nombre croissant de plaintes déposées par des familles qui affirment que son chatbot a incité leurs proches à se faire du mal.

La société est également poursuivie pour avoir aidé les auteurs de fusillades scolaires et pour ne pas avoir signalé ces conversations aux forces de l'ordre.

OpenAI affirme entraîner ses modèles à orienter les personnes ayant des idées suicidaires vers la recherche d'aide et les mettre en relation avec des ressources concrètes.

Ses modèles sont également entraînés à refuser les demandes susceptibles d'inciter à la violence et à alerter les forces de l'ordre lorsque les conversations suggèrent un risque imminent et crédible de préjudice pour autrui. Des experts en santé mentale participent à l'évaluation des cas limites, selon les articles du blog d'OpenAI.

Ce contenu est basé sur les témoignages de victimes et de victimes potentielles. Les escrocs utilisent souvent des noms d'organismes gouvernementaux, d'entreprises légitimes et leurs numéros de téléphone pour abuser des gens.

Description

L'escroquerie mettait en scène Anderson Cooper parlant d'un nouveau traitement contre la maladie d'Alzheimer, si simple que toutes les entreprises pharmaceutiques perdraient des millions. Le Dr Gupta est ensuite intervenu pour détailler les bienfaits d'un miel miraculeux et d'une poudre de bacopa qui auraient guéri son père et plusieurs célébrités (que l'on voyait en parler). Des offres pour ce médicament rare ont alors été proposées, avec de nouvelles « promotions » incitant à l'achat. Le spectateur était ensuite bloqué dans sa transaction et averti que le traitement pourrait ne plus être efficace s'il n'achetait pas également ces autres médicaments. Un appel de suivi a ensuite été effectué pour vérifier que tout allait bien avec mes médicaments. J'ai même trouvé un questionnaire sur mes problèmes de santé dans ma boîte mail par la suite, ainsi qu'un numéro de téléphone pour toute question. Harvard était cité comme référence pour la recherche. Très sophistiqué à bien des égards ! Ce matin, j'ai découvert cette arnaque sur Google et elle est entièrement générée par une IA ! Les escrocs ont mes numéros de carte de crédit (désormais annulés), mon adresse et environ 2 000 $. Attention !

Montant perdu

2 003 $

Localisation de la personne ciblée

CA, États-Unis - 95667

Informations sur l'escroc

Localisation inconnue

Adresse e-mail inconnue

(833) 851-5180

![Web] logo](https://m.bbb.org/terminuscontent/scamtracker/Web.svg?tx=w_48)

Facebook

Type d'escroquerie

Achat en ligne

En savoir plus

Nom de l'entreprise

Page Facebook présentée par Anderson Cooper évoquant un traitement contre la maladie d'Alzheimer du Dr Sanjay Gupta

Date du signalement

25 octobre 2025

Identifiant de l'escroquerie

1089143