Bienvenue dansla base de données des incidents d'IA
Incident 1650: Le logiciel de prise de notes d'Otter.ai aurait enregistré des conversations de réunions sans le consentement éclairé des participants et utilisé ces données pour l'entraînement de son IA.
“Une action collective allègue qu'Otter AI enregistre secrètement des conversations professionnelles privées.”Dernier rapport
Otter.ai, une entreprise technologique basée à Mountain View, en Californie, utilise l'intelligence artificielle pour générer des transcriptions vocales. Son outil est devenu populaire pour la transcription des réunions virtuelles.
Une action collective fédérale accuse Otter.ai d'enregistrer « de manière trompeuse et subreptice » des conversations privées utilisées par l'entreprise pour entraîner son service de transcription, sans le consentement des utilisateurs.
Le service de transcription par IA de l'entreprise, appelé Otter Notebook, capable de transcrire en temps réel les réunions Zoom, Google Meet et Microsoft Teams, ne demande par défaut pas l'autorisation des participants pour enregistrer les conversations et omet de les avertir que les enregistrements sont partagés avec Otter afin d'améliorer ses systèmes d'intelligence artificielle, selon la plainte déposée vendredi.
Le plaignant, Justin Brewer, résidant à San Jacinto, en Californie, allègue que sa vie privée a été gravement violée lorsqu'il a découvert qu'Otter enregistrait secrètement une conversation confidentielle.
La plainte, déposée auprès du tribunal de district des États-Unis pour le district nord de la Californie, affirme que l'enregistrement clandestin effectué par Otter enfreint les lois californiennes et fédérales relatives à la protection de la vie privée et aux écoutes téléphoniques. Elle vise à représenter d'autres personnes en Californie dont les conversations ont été partagées à leur insu avec Otter, ce que les avocats soupçonnent être motivé par un but lucratif.
Ni l'équipe juridique de M. Brewer ni un porte-parole d'Otter n'ont répondu aux demandes de commentaires.
La politique de confidentialité d'Otter (https://otter.ai/privacy-policy) ne dissimule pas l'entraînement de son IA. L'entreprise affirme recevoir l'« autorisation explicite » des utilisateurs pour entraîner ses systèmes sur les transcriptions de réunions lorsque ces derniers cochent une case autorisant Otter et des tiers à intégrer les conversations privées « à des fins d'entraînement et d'amélioration du produit ». Cependant, la plainte soutient que de nombreux utilisateurs sont encore dupés.
Ces derniers mois, de nouvelles questions relatives à la protection de la vie privée ont éclaboussé Otter, dont le déploiement s'est considérablement accru dans les entreprises du monde entier.
Quelque 25 millions de personnes utilisent désormais ses outils de transcription IA, qui ont enregistré et traité plus d'un milliard de réunions depuis la création de l'entreprise en 2016, selon cette dernière.
Des utilisateurs ont partagé des témoignages alarmants sur des plateformes telles que X et Reddit concernant les dysfonctionnements des outils d'enregistrement automatisés d'Otter.
L'année dernière, un chercheur et ingénieur en intelligence artificielle a déclaré qu'Otter avait enregistré une réunion Zoom avec des investisseurs, puis leur avait partagé une transcription de la conversation contenant des « détails intimes et confidentiels » sur une affaire, après que l'investisseur eut quitté la réunion. Ces passages de la conversation ont finalement fait capoter un accord, selon le Washington Post.
Le correspondant de Politico en Chine a publié un article relatant son interview d'un militant ouïghour des droits de l'homme utilisant Otter. Il y découvre que l'entreprise partage les données de ses utilisateurs avec des tiers, ce qui soulève des craintes quant à la possibilité que le gouvernement chinois tente d'accéder aux transcriptions brutes de conversations avec des dissidents. Otter affirme ne partager aucune donnée avec des gouvernements étrangers ou des forces de l'ordre.
Sur Reddit, des utilisateurs se plaignent qu'Otter se connecte automatiquement aux réunions lorsque le service est lié aux calendriers professionnels et enregistre les conversations sans consentement.
Ce phénomène est également mis en lumière par la plainte déposée. Lorsqu'un utilisateur d'Otter participe à une réunion virtuelle, le logiciel demande généralement l'autorisation d'enregistrer à l'organisateur, mais pas systématiquement aux autres participants.
« En réalité, si l'organisateur de la réunion possède un compte Otter et a intégré ses comptes Google Meet, Zoom ou Microsoft Teams à Otter, Otter Notetaker peut rejoindre la réunion sans le consentement explicite d'aucun participant, y compris de l'organisateur », allègue la plainte. « Otter a ainsi utilisé son assistant de réunion Otter Notetaker pour enregistrer, transcrire et exploiter le contenu des conversations sans le consentement éclairé des membres du groupe. »
Otter affirme que l'audio des réunions est « dépersonnalisé », une méthode permettant d'anonymiser les données avant d'être intégré à ses systèmes d'apprentissage automatique pour améliorer sa fonction de reconnaissance vocale par IA.
La plainte déposée vendredi soulève des inquiétudes quant à la capacité d'Otter à mener à bien cette démarche, affirmant que l'entreprise ne fournit aucune explication publique de son processus de « dépersonnalisation ».
« Selon les informations dont nous disposons, le processus de dépersonnalisation d'Otter ne supprime pas les informations confidentielles et ne garantit pas l'anonymat des intervenants », soutient la plainte.
Incident 1651: L'application Fireflies.AI Meeting Assistant aurait collecté des données vocales biométriques d'un participant à une réunion dans l'Illinois sans son consentement.
“Une plainte allègue que Fireflies.AI Corp. collecte illégalement des données biométriques lors de réunions virtuelles.”
Une nouvelle plainte déposée devant un tribunal fédéral de l'Illinois met en lumière les risques juridiques liés aux assistants de réunion basés sur l'IA, qui proposent des services de transcription et d'identification des intervenants sur des plateformes comme Zoom et Microsoft Teams. La plainte, déposée par Katelin Cruz, résidente de l'Illinois, allègue que la société technologique californienne Fireflies.AI Corp. collecte et stocke illégalement les données vocales biométriques d'individus à leur insu et sans leur consentement.
Selon la plainte de Mme Cruz, l'assistant de réunion de Fireflies.AI enregistrerait, analyserait, transcrirait et stockerait les caractéristiques vocales uniques (ou « empreintes vocales ») de chaque participant à une réunion. Ceci inclut des personnes qui n'ont jamais créé de compte Fireflies, n'ont jamais accepté ses conditions d'utilisation et n'ont jamais donné leur consentement écrit pour la collecte de leurs données biométriques.
Mme Cruz soutient que les empreintes vocales sont des identifiants biométriques sensibles, souvent utilisés pour authentifier l'accès à des informations personnelles ou financières. Si elles sont compromises, elles représentent un risque important d'usurpation d'identité et de fraude.
Fireflies.AI présente son logiciel comme ayant des capacités de « reconnaissance vocale ». Autrement dit, cette technologie peut distinguer les différentes personnes qui prennent la parole lors d'une réunion en analysant la voix unique de chaque participant. L'assistant IA rejoint souvent les réunions automatiquement lorsque l'organisateur l'active, fonctionnant en arrière-plan et attribuant les propos à chaque intervenant.
Selon la plainte :
-
La politique de confidentialité de Fireflies l'autorise à collecter et traiter les « données de réunion » et leurs « dérivés », et à stocker les enregistrements des réunions dans ses systèmes.
-
L'entreprise affirme qu'elle ne supprimera les informations personnelles que lorsqu'elle estimera qu'elles ne sont « plus nécessaires », ou si un utilisateur en fait la demande expresse, mais elle ne précise pas de durée de conservation.
Cruz raconte que lors d'une réunion virtuelle en novembre, sa voix a été enregistrée et analysée, alors qu'elle n'avait jamais donné son consentement, créé de compte ni interagi de quelque manière que ce soit avec Fireflies.AI. Pourtant, le logiciel a établi un profil à partir de sa voix et lui a attribué des propos dans la transcription de la réunion.
Elle souligne également que les conditions d'utilisation de Fireflies ne s'appliquent, en théorie, qu'aux utilisateurs enregistrés ou à ceux qui cliquent sur « J'accepte ». Pour les participants non inscrits aux réunions, aucun consentement écrit n'est jamais recueilli, et ils ne sont pas informés que leurs empreintes vocales pourraient être collectées.
De plus, Cruz allègue que Fireflies.AI ne publie aucune politique concernant la durée de conservation des données biométriques ni la date de destruction des données obsolètes, ce qui constitue une obligation légale en vertu de la loi de l'Illinois sur la protection des informations biométriques (BIPA).
Cruz souhaite intenter une action collective, représentant potentiellement toute personne dont les données biométriques vocales ont été collectées par Fireflies.AI sans son consentement. Elle demande au tribunal de lui accorder des dommages-intérêts légaux, une injonction et le remboursement des frais de justice, soulignant l'impact plus large sur les droits à la vie privée des consommateurs à l'ère des services basés sur l'IA.
La loi BIPA de l'Illinois est l'une des plus strictes des États-Unis en matière de protection des données biométriques. Elle exige une notification écrite et un consentement explicite avant que toute entreprise puisse collecter, stocker ou utiliser des données biométriques telles que les empreintes digitales, les scans rétiniens ou les empreintes vocales. Elle impose également des politiques publiques concernant la conservation et la destruction des données.
Cette affaire pourrait avoir des conséquences importantes non seulement pour Fireflies.AI, mais aussi pour tout fournisseur d'outils de réunion basés sur l'IA qui enregistre et traite des données vocales personnelles, surtout si cela se fait sans information claire ni consentement de l'utilisateur.
Avec la généralisation du télétravail et des réunions virtuelles, les entreprises proposant des assistants de réunion intelligents seront soumises à une surveillance accrue en matière de respect de la vie privée. L'issue de ce procès pourrait créer un précédent important pour la protection des données biométriques dans les espaces de travail numériques. Si vous vous souciez de la confidentialité de vos données lors de réunions virtuelles, il est conseillé de demander aux organisateurs quels outils tiers sont utilisés et si vos données sont réellement protégées.
Mots-clés : Assistant de réunion basé sur l’IA, Données biométriques, fireflies.ai, Loi de l’Illinois sur la protection des informations biométriques (BIPA), Microsoft Teams, Consentement des utilisateurs non enregistrés, Empreintes vocales zoom