Bienvenue dans

la base de données des incidents d'IA

Plusieurs des plus grandes maisons de disques mondiales ont porté plainte contre Udio et Suno, deux des générateurs de musique par IA les plus populaires, les accusant non seulement d'avoir extrait d'énormes quantités de musique sans autorisation ni compensation, mais aussi d'avoir reproduit directement des extraits de chansons célèbres dans la musique générée par leur IA.

Les plaintes indiquent que « puisque son activité repose sur l'exploitation d'enregistrements sonores protégés par le droit d'auteur sans autorisation, Udio [et Suno] ont délibérément éludé la question de la nature exacte des œuvres copiées. Cela n'a rien d'étonnant. Après tout, répondre honnêtement à cette question reviendrait à admettre une violation délibérée du droit d'auteur à une échelle quasi inimaginable. »

« Il est évident que le service d'Udio est basé sur des enregistrements sonores. Udio a copié en masse les enregistrements sonores protégés par le droit d'auteur des plaignants et les a intégrés à son modèle d'IA », poursuivent les plaintes, reproduites ci-dessous.

L'aspect le plus intéressant de ces poursuites réside dans le fait que les maisons de disques affirment avoir pu reproduire à plusieurs reprises des versions de chansons extrêmement célèbres dont elles détiennent les droits d'auteur. Nombre de ces versions sont citées et référencées dans la plainte. Un échantillon est présenté ici, accompagné des indications nécessaires, dans une vidéo que j'ai réalisée à partir d'exemples précis tirés des plaintes :

(Note de l'éditeur d'AIID : Veuillez consulter la source originale pour accéder aux médias intégrés.)

Deux poursuites distinctes ont été intentées. Les maisons de disques, parmi lesquelles Universal Music Group, Capitol Records, Atlantic Records, Warner Music et Sony Music Industry Association of America, ont poursuivi Udio à New York et Suno dans le Massachusetts, où se trouvent leurs sièges sociaux. Les grandes lignes des poursuites sont similaires, bien que les maisons de disques formulent des allégations légèrement différentes selon les parties de chaque plainte. Elles affirment qu'aucun des deux générateurs de musique par IA ne précise sur quelle musique ses modèles ont été entraînés, mais que, lors des échanges préalables au procès, les deux sociétés ont soutenu que l'utilisation de matériel protégé par le droit d'auteur pour l'entraînement de leurs modèles relevait du « fair use ». Les maisons de disques poursuivent également plusieurs personnes non identifiées, qu'elles accusent d'avoir aidé ces sociétés à extraire illégalement la musique de leurs œuvres.

Ces poursuites judiciaires ouvrent la voie à une bataille juridique majeure concernant la nature des services d'intelligence artificielle générative, capables de recréer non seulement de la musique, mais aussi des œuvres d'art, des vidéos et des textes.

Parallèlement à ces poursuites, les maisons de disques ont fourni une liste exhaustive de milliers d'œuvres protégées par le droit d'auteur dont elles affirment qu'elles ont été extraites illégalement pour entraîner les modèles. Cette liste comprend, par exemple, une grande partie des catalogues des Beach Boys, des Beatles, de Frank Sinatra, la bande originale de Hamilton, Bruce Springsteen, Blink-182, Future, Johnny Cash, Michael Jackson, Mariah Carey, ABBA, Sting, The Police, Coldplay, Talking Heads, Madonna et bien d'autres.

La plainte allègue que les maisons de disques ont établi cette liste en utilisant notamment des générateurs de musique, en y intégrant des critères très précis, puis en comparant les résultats à des morceaux existants dont elles détiennent les droits d'auteur. Par exemple, la saisie de « 1954 rock and roll billy haley comets » dans Suno a produit des résultats que les maisons de disques accusent de plagiat flagrant du « style et de la mélodie » de Bill Haley. La plainte allègue que les maisons de disques ont pu générer « 29 résultats différents reprenant le style de "Johnny B. Goode" de Chuck Berry », par exemple.

La requête « Rock and roll des années 1950, rhythm and blues, blues à 12 mesures, rockabilly, chanteur masculin énergique, chanteur guitariste » a généré une chanson intitulée « Au fond de la Louisiane, près de La Nouvelle-Orléans », qui « reproduit le rythme très caractéristique du refrain original et utilise la même structure mélodique sur les phrases « go, Johnny, go, go ». »

Les plaintes précisent que les maisons de disques ont fourni une clé USB contenant de la musique générée par intelligence artificielle qu'elles accusent de plagiat.

« Les plaignants ont découvert que l'utilisation de requêtes ciblées incluant les caractéristiques d'enregistrements sonores populaires — telles que la décennie de sortie, le thème, le genre et la description de l'artiste — permet au produit de Suno de générer des fichiers musicaux ressemblant fortement aux enregistrements protégés par le droit d'auteur correspondant aux descriptions fournies », allègue la plainte. « Lors de ce test, les plaignants ont spécifié les paroles des chansons afin de mettre plus facilement en évidence les similitudes mélodiques ou rythmiques sous-jacentes avec des enregistrements protégés. Cette approche visait à identifier des enregistrements sonores protégés susceptibles de figurer dans les données d'entraînement de Suno, puisque Suno a tenté de dissimuler les enregistrements utilisés pour l'entraînement. Les résultats confirment que Suno a copié les enregistrements protégés à des fins d'entraînement, car un tel degré de similarité serait impossible sans ces enregistrements. »

Les deux plaintes contiennent de nombreux exemples pertinents. Par exemple, une chanson intitulée « Jason Derulo », générée par Suno, imite Derulo chantant son nom dans son style caractéristique. Une chanson générée par Udio, intitulée « Subliminal Hysteria », créée à partir de la requête « pop punk American alternative rock California 2004 rob cavallo », ressemble beaucoup à « American Idiot » de Green Day et reprend l'intégralité des paroles du premier couplet avant d'enchaîner sur le refrain « The quick brown fox jumped over the lazy dog ». La requête « m a r i a h c a r e y, contemporary r&b, holiday, Grammy Award-winning American singer/songwriter, remarkable vocal range » a créé un clone quasi identique de « All I Want for Christmas Is You ».

Deux actions collectives sont en préparation contre deux grandes entreprises d'IA, Udio et Suno, au nom d'artistes indépendants. Les avocats des cabinets Delgado Entertainment Law et Hagens Berman ont incité les artistes indépendants à se joindre à ces actions. Cela représenterait un soutien important pour les musiciens et auteurs-compositeurs dont les œuvres ont été utilisées sans autorisation pour entraîner des modèles d'IA générative.

Bien qu'une législation fédérale soit en cours d'élaboration pour protéger les artistes contre l'exploitation par l'IA, les poursuites judiciaires constituent une voie potentiellement plus rapide. Aucun calendrier n'est établi quant à la date d'entrée en vigueur de ces projets de loi. Et il semble que l'IA générative suscite chaque jour davantage d'inquiétudes chez les artistes.

C'est un problème majeur, notamment pour les artistes indépendants qui n'ont pas forcément les moyens de se payer une équipe juridique. Krystle Delgado, du cabinet Delgado Entertainment Law, utilise sa chaîne YouTube pour attirer l'attention de ces artistes.

« Suno et Udio ont enfreint les droits d'auteur et vous doivent maintenant de l'argent », déclare Delgado dans une vidéo, selon un article de WPLN. « Mais les artistes indépendants dont les droits ont été le plus bafoués n'ont pas voix au chapitre. Cela change aujourd'hui. »

Des recours collectifs exigent la divulgation des bases de données d'artistes exploités détenues par une entreprise d'IA.

Les artistes peuvent rejoindre le recours collectif sur le site web indieailawsuit.com, créé par le cabinet de Krystle Delgado. Sa vidéo y est mise en avant, lançant un appel à l'action. La description mentionne plusieurs personnalités de l'industrie musicale, comme des producteurs, des DJ, des critiques et des auteurs-compositeurs, qui se sont déjà joints à la plainte. De plus, au moins 1 300 autres personnes y sont impliquées.

« Nous sommes unis non pas contre l'IA en elle-même, mais contre les entreprises qui ont construit des systèmes d'IA à partir de musique volée sans consentement ni compensation », peut-on lire sur le site web. Il est également précisé que « les créateurs de musique indépendants sont les premiers à être exploités et les derniers à être protégés ».

Universal Music Group et Sony Music ont déjà intenté une action en justice contre Suno pour violation de droits d'auteur. Cette action fait suite aux aveux de l'entreprise d'IA concernant l'utilisation de données issues de chansons « disponibles publiquement » pour entraîner sa technologie. Or, comme le souligne le site web, cela n'inclut pas les artistes indépendants. Et il est fort probable que la majorité de ces chansons disponibles publiquement appartenaient à des artistes indépendants.

Les poursuites engagées par les grandes maisons de disques ne vont pas jusqu'à exiger de Suno et Udio la divulgation des données qu'elles ont extraites pour entraîner leur IA. C'est précisément l'objectif des recours collectifs.

Grâce à la publication de la base de données des artistes, les avocats sont un peu plus près d'obtenir une protection pour ceux qui ne bénéficient pas du soutien d'une grande maison de disques. À tout le moins, ils seraient indemnisés pour l'utilisation illégale de leur musique.

(Cet article du 18 octobre a été mis à jour afin de corriger la dénomination sociale de Concord au premier paragraphe.)

Les éditeurs musicaux Universal Music (UMG.AS), ouvre un nouvel onglet, ABKCO et Concord ont porté plainte mercredi devant un tribunal fédéral du Tennessee contre la société d'intelligence artificielle Anthropic. Ils l'accusent d'avoir utilisé abusivement un nombre considérable de paroles de chansons protégées par le droit d'auteur pour entraîner son chatbot Claude.

La plainte, ouvre un nouvel onglet indique qu'Anthropic viole les droits des éditeurs en utilisant les paroles d'au moins 500 chansons, parmi lesquelles « God Only Knows » des Beach Boys, « Gimme Shelter » des Rolling Stones, « Uptown Funk » de Mark Ronson et Bruno Mars et « Halo » de Beyoncé.

Les représentants d'Anthropic n'ont pas immédiatement répondu à notre demande de commentaires.

L'avocat des éditeurs, Matt Oppenheim, a refusé de commenter le litige, mais a déclaré que « le droit d'auteur établit clairement qu'une entité ne peut reproduire, distribuer et afficher les œuvres protégées d'autrui pour développer son activité sans l'autorisation des titulaires de droits ».

De nombreux titulaires de droits d'auteur, dont des auteurs et des artistes visuels, ont intenté des poursuites contre des entreprises technologiques telles que Meta Platforms et OpenAI (soutenue par Microsoft) pour utilisation de leurs œuvres dans l'entraînement de systèmes d'intelligence artificielle générative.

La plainte déposée par les éditeurs musicaux semble être la première affaire concernant des paroles de chansons et la première contre Anthropic, société qui a bénéficié du soutien financier de Google (GOOGL.O), d'Amazon (AMZN.O) et de l'ancien milliardaire des cryptomonnaies, Sam Bankman-Fried.

La plainte accuse Anthropic d'avoir enfreint les droits d'auteur des éditeurs en copiant leurs paroles sans autorisation, dans le cadre des « énormes quantités de textes » qu'elle collecte sur Internet pour entraîner Claude à répondre aux commandes humaines.

Les éditeurs affirment également que Claude reproduit illégalement les paroles sur demande, et en réponse à « toute une série de sollicitations qui ne portent pas sur les paroles des éditeurs », notamment « des demandes d'écrire une chanson sur un sujet précis, de fournir des progressions d'accords pour une composition musicale donnée, ou d'écrire un poème ou une nouvelle dans le style d'un artiste ou d'un auteur-compositeur en particulier ».

Par exemple, la plainte indique que Claude fournit des paroles pertinentes de la chanson « American Pie » de Don McLean lorsqu'on lui demande d'écrire une chanson sur la mort du pionnier du rock Buddy Holly.

Les éditeurs ont demandé au tribunal des dommages et intérêts ainsi qu'une injonction pour faire cesser la contrefaçon présumée.

Les avocats d'un cabinet de Los Angeles représentant State Farm dans une action en justice concernant la reconstruction d'une maison après un incendie ont présenté leurs excuses pour des erreurs d'interprétation de données par intelligence artificielle dans leurs documents.

Selon un document déposé par Eric Khodadian, représentant Fa'alagilagi Meni-Siliga, les avocats de la propriétaire ont découvert dans les requêtes déposées par State Farm « des dossiers, des devis et des décisions qui n'existent pas ».

Mme Meni-Siliga a déposé sa plainte en juillet 2024, citant comme défendeurs un entrepreneur et sa compagnie d'assurance, un expert d'assuré et sa propre compagnie d'assurance habitation, State Farm.

Un incendie survenu à son domicile à Carson, dans le comté de Los Angeles, en 2020, l'a rendu inhabitable, selon la plainte. Pendant les travaux de reconstruction, une tempête a causé des dégâts des eaux. Après des retards dans l'obtention de l'approbation de State Farm pour les réparations, les travaux à son domicile n'ont jamais été achevés, selon un document judiciaire déposé en janvier. Elle et son mari ont épuisé leurs économies et leurs comptes de retraite, ont déclaré faillite et ont perdu leur maison suite à une saisie, a-t-elle écrit.

« Ma famille et moi avons perdu à jamais notre maison familiale », a écrit Meni-Siliga, factrice pour le service postal américain. « Nous ne sommes pas riches… Il a fallu de nombreuses années et de nombreux sacrifices à notre famille pour acheter cette maison. »

Dans sa réponse initiale à ses plaintes, State Farm a déclaré que la négligence de la plaignante, de son entrepreneur et de l'expert d'assuré était à l'origine des blessures et des dommages subis. L'assureur a également affirmé qu'elle n'avait pas intenté d'action en justice dans l'année suivant le sinistre.

Le procès devrait avoir lieu en octobre.

Le secteur juridique se tourne de plus en plus vers l'IA : selon une enquête récente, 41 % des cabinets d'avocats et 47 % des services juridiques d'entreprises utilisent l'IA générative.

De ce fait, les erreurs de recherche juridique sont devenues plus fréquentes, explique Daniel Ho, professeur de droit à l'université de Stanford, qui a étudié la question. Dans un article co-écrit l'année dernière, Ho et ses collègues ont constaté que certaines entreprises avaient exagéré la capacité de leurs outils de recherche juridique à garantir des citations juridiques exemptes d'erreurs.

Une base de données mondiale d'« hallucinations juridiques » (https://www.damiencharlotin.com/hallucinations/), tenue par un chercheur juridique parisien, a recensé 1 922 cas à ce jour ; la plupart se sont produits aux États-Unis.

L'année dernière, un avocat californien a écopé d'une amende record de 10 000 $ (https://calmatters.org/economy/technology/2025/09/chatgpt-lawyer-fine-ai-regulation/) pour avoir utilisé ChatGPT dans un mémoire introductif contenant 21 citations inventées sur 23.

Khodadian a présenté ses conclusions lors d'une conférence le 7 août au tribunal supérieur de Los Angeles. Il a ensuite écrit dans un document qu'un avocat de State Farm était « visiblement furieux » et l'avait suivi, lui et son confrère, dans le couloir, « exigeant à plusieurs reprises de voir la liste » des erreurs relevées.

L'avocat en question était Kenneth Katel, du cabinet Musick, Peeler & Garrett. Dans sa requête, il a présenté ses excuses au tribunal et à la plaignante, expliquant que sa collègue lui avait indiqué avoir utilisé l'intelligence artificielle pour préparer certains documents.

« Je n'étais pas au courant de l'utilisation de l'IA, mais en tant qu'avocat principal, j'assume l'entière responsabilité de nos documents », a écrit Katel. Il a également informé le tribunal que son cabinet avait mis à jour sa politique relative à l'utilisation de l'IA, sans toutefois fournir de précisions.

Katel a contesté la version des faits présentée par Khodadian après l'audience, tout en reconnaissant : « Il est exact de dire que j'étais bouleversé compte tenu de la gravité des allégations. »

Khodadian et Katel ont refusé de répondre aux questions de CalMatters.

L'avocate Jacquelene Robinson, qui a utilisé l'intelligence artificielle dans les requêtes déposées au nom de State Farm, a indiqué dans un document avoir confirmé la présence de sept citations de jurisprudence, réparties dans huit documents, « qui n'existaient tout simplement pas », ainsi que des titres de jurisprudence erronés et des citations absentes des affaires citées.

Mme Robinson a expliqué avoir utilisé un outil d'IA appelé Irys, qu'elle croyait à tort lié à l'abonnement de son cabinet à un outil de recherche juridique nommé Westlaw, lequel, pensait-elle, « effectuait une vérification interne des citations ». Elle s'est trompée, a-t-elle écrit.

Le porte-parole de State Farm, Tom Hartmann, a déclaré que l'entreprise examinait la situation. « State Farm exige de ses avocats externes qu'ils respectent les normes éthiques et professionnelles les plus élevées, notamment en vérifiant l'exactitude de tous les documents juridiques déposés », a-t-il affirmé.

M. Hartmann n'a pas répondu aux questions concernant le nombre de cabinets d'avocats externes représentant State Farm, ni sur la question de savoir si l'entreprise s'informe de leurs politiques en matière d'IA avant de les engager.

Otter.ai, une entreprise technologique basée à Mountain View, en Californie, utilise l'intelligence artificielle pour générer des transcriptions vocales. Son outil est devenu populaire pour la transcription des réunions virtuelles.

Une action collective fédérale accuse Otter.ai d'enregistrer « de manière trompeuse et subreptice » des conversations privées utilisées par l'entreprise pour entraîner son service de transcription, sans le consentement des utilisateurs.

Le service de transcription par IA de l'entreprise, appelé Otter Notebook, capable de transcrire en temps réel les réunions Zoom, Google Meet et Microsoft Teams, ne demande par défaut pas l'autorisation des participants pour enregistrer les conversations et omet de les avertir que les enregistrements sont partagés avec Otter afin d'améliorer ses systèmes d'intelligence artificielle, selon la plainte déposée vendredi.

Le plaignant, Justin Brewer, résidant à San Jacinto, en Californie, allègue que sa vie privée a été gravement violée lorsqu'il a découvert qu'Otter enregistrait secrètement une conversation confidentielle.

La plainte, déposée auprès du tribunal de district des États-Unis pour le district nord de la Californie, affirme que l'enregistrement clandestin effectué par Otter enfreint les lois californiennes et fédérales relatives à la protection de la vie privée et aux écoutes téléphoniques. Elle vise à représenter d'autres personnes en Californie dont les conversations ont été partagées à leur insu avec Otter, ce que les avocats soupçonnent être motivé par un but lucratif.

Ni l'équipe juridique de M. Brewer ni un porte-parole d'Otter n'ont répondu aux demandes de commentaires.

La politique de confidentialité d'Otter (https://otter.ai/privacy-policy) ne dissimule pas l'entraînement de son IA. L'entreprise affirme recevoir l'« autorisation explicite » des utilisateurs pour entraîner ses systèmes sur les transcriptions de réunions lorsque ces derniers cochent une case autorisant Otter et des tiers à intégrer les conversations privées « à des fins d'entraînement et d'amélioration du produit ». Cependant, la plainte soutient que de nombreux utilisateurs sont encore dupés.

Ces derniers mois, de nouvelles questions relatives à la protection de la vie privée ont éclaboussé Otter, dont le déploiement s'est considérablement accru dans les entreprises du monde entier.

Quelque 25 millions de personnes utilisent désormais ses outils de transcription IA, qui ont enregistré et traité plus d'un milliard de réunions depuis la création de l'entreprise en 2016, selon cette dernière.

Des utilisateurs ont partagé des témoignages alarmants sur des plateformes telles que X et Reddit concernant les dysfonctionnements des outils d'enregistrement automatisés d'Otter.

L'année dernière, un chercheur et ingénieur en intelligence artificielle a déclaré qu'Otter avait enregistré une réunion Zoom avec des investisseurs, puis leur avait partagé une transcription de la conversation contenant des « détails intimes et confidentiels » sur une affaire, après que l'investisseur eut quitté la réunion. Ces passages de la conversation ont finalement fait capoter un accord, selon le Washington Post.

Le correspondant de Politico en Chine a publié un article relatant son interview d'un militant ouïghour des droits de l'homme utilisant Otter. Il y découvre que l'entreprise partage les données de ses utilisateurs avec des tiers, ce qui soulève des craintes quant à la possibilité que le gouvernement chinois tente d'accéder aux transcriptions brutes de conversations avec des dissidents. Otter affirme ne partager aucune donnée avec des gouvernements étrangers ou des forces de l'ordre.

Sur Reddit, des utilisateurs se plaignent qu'Otter se connecte automatiquement aux réunions lorsque le service est lié aux calendriers professionnels et enregistre les conversations sans consentement.

Ce phénomène est également mis en lumière par la plainte déposée. Lorsqu'un utilisateur d'Otter participe à une réunion virtuelle, le logiciel demande généralement l'autorisation d'enregistrer à l'organisateur, mais pas systématiquement aux autres participants.

« En réalité, si l'organisateur de la réunion possède un compte Otter et a intégré ses comptes Google Meet, Zoom ou Microsoft Teams à Otter, Otter Notetaker peut rejoindre la réunion sans le consentement explicite d'aucun participant, y compris de l'organisateur », allègue la plainte. « Otter a ainsi utilisé son assistant de réunion Otter Notetaker pour enregistrer, transcrire et exploiter le contenu des conversations sans le consentement éclairé des membres du groupe. »

Otter affirme que l'audio des réunions est « dépersonnalisé », une méthode permettant d'anonymiser les données avant d'être intégré à ses systèmes d'apprentissage automatique pour améliorer sa fonction de reconnaissance vocale par IA.

La plainte déposée vendredi soulève des inquiétudes quant à la capacité d'Otter à mener à bien cette démarche, affirmant que l'entreprise ne fournit aucune explication publique de son processus de « dépersonnalisation ».

« Selon les informations dont nous disposons, le processus de dépersonnalisation d'Otter ne supprime pas les informations confidentielles et ne garantit pas l'anonymat des intervenants », soutient la plainte.