Incidents associés
Les assistants d'entreprise sont depuis longtemps les gardiens des ragots et des secrets de l'entreprise. Aujourd'hui, l'intelligence artificielle prend en charge certaines de leurs tâches, mais elle ne partage pas leur sens de la discrétion.
Le chercheur et ingénieur Alex Bilzerian a déclaré sur X la semaine dernière qu'après une réunion Zoom avec des investisseurs en capital-risque, il a reçu un e-mail automatisé d'Otter.ai, un service de transcription avec un « assistant de réunion IA ». L'e-mail contenait une transcription de la réunion - y compris la partie qui s'est produite après la déconnexion de Bilzerian, lorsque les investisseurs ont discuté des échecs stratégiques de leur entreprise et des mesures truquées, a-t-il déclaré au Washington Post via un message direct sur X.
Les investisseurs, qu'il n'a pas voulu nommer, se sont « abondamment excusés » une fois qu'il les a portés à leur attention, mais le mal était déjà fait. Ce bavardage après la réunion a poussé Bilzerian à décider de mettre fin à l'accord, a-t-il déclaré.
Les entreprises intègrent des fonctionnalités d'IA dans leurs produits professionnels. Plus récemment, Salesforce a annoncé une offre d'IA appelée Agentforce, qui permet aux clients de créer des agents virtuels alimentés par l'IA qui aident aux ventes et au service client. Microsoft a renforcé les capacités de son AI Copilot dans toute sa suite de produits professionnels, tandis que Google a fait de même avec Gemini. Même l'outil de chat en milieu de travail Slack s'est lancé dans le jeu, en ajoutant des fonctionnalités d'IA qui peuvent résumer les conversations, rechercher des sujets et créer des récapitulatifs quotidiens. Mais l'IA ne peut pas lire la pièce comme les humains, et de nombreux utilisateurs ne s'arrêtent pas pour vérifier les paramètres importants ou pour réfléchir à ce qui pourrait se passer lorsque des outils automatisés accèdent à une si grande partie de leur vie professionnelle.
Otter a répondu au fil de discussion de Bilzerian sur X, en déclarant que les utilisateurs « ont un contrôle total sur les autorisations de partage des conversations et peuvent modifier, mettre à jour ou arrêter les autorisations de partage d'une conversation à tout moment. Dans ce cas précis, les utilisateurs ont la possibilité de ne pas partager automatiquement les transcriptions avec qui que ce soit ou de partager automatiquement les conversations uniquement avec les utilisateurs qui partagent le même domaine Workspace. »
Il a également partagé un lien vers un guide montrant comment les utilisateurs peuvent modifier leurs paramètres.
Les investisseurs avertis ne sont pas les seuls à se faire avoir par les nouvelles fonctionnalités de l'IA. Les employés de base risquent également de voir les outils alimentés par l'IA enregistrer et partager des informations préjudiciables.
« Je pense que c'est un gros problème parce que la technologie prolifère si vite, et les gens n'ont pas vraiment intériorisé à quel point elle est invasive », a déclaré Naomi Brockwell, chercheuse et défenseure de la vie privée. Selon Brockwell, la combinaison de l'enregistrement constant et de la transcription assistée par l'IA érode notre vie privée au travail et nous expose à des poursuites judiciaires, des représailles et des fuites de secrets.
Parfois, les preneurs de notes IA captent des moments qui n'étaient pas destinés à des oreilles extérieures. Isaac Naor, un concepteur de logiciels à Los Angeles, a déclaré qu'il avait reçu une fois une transcription Otter après une réunion Zoom qui contenait des moments où l'autre participante s'était mise en sourdine pour parler de lui. Elle n'en avait aucune idée, et Naor était trop mal à l'aise pour le lui dire, a-t-il déclaré.
OtterPilot, la fonction d'IA d'Otter qui enregistre, transcrit et résume les réunions, enregistre uniquement l'audio de la réunion virtuelle, ce qui signifie que si quelqu'un est en mode silencieux, son audio ne sera pas enregistré. Mais si les utilisateurs appuient manuellement sur Enregistrer, Otter reçoit l'audio du microphone et des haut-parleurs. Ainsi, si le microphone peut entendre les conversations, Otter le peut aussi.
D'autres fois, la présence même d'un outil d'IA rend les réunions inconfortables. Rob Bezdjian, qui possède une petite entreprise d'événements à Salt Lake City, a déclaré avoir eu un appel gênant avec des investisseurs potentiels après qu'ils aient insisté pour enregistrer une réunion via Otter. Bezdjian ne voulait pas que ses idées exclusives soient enregistrées, il a donc refusé de partager certains détails sur son entreprise. L'accord n'a pas été conclu.
Dans les cas où Otter partage une transcription, les participants à la réunion seront informés qu'un enregistrement est en cours, a noté la société. Si quelqu'un utilise OtterPilot, les participants seront avertis dans le chatbot de la réunion ou par e-mail, et OtterPilot apparaîtra comme un autre participant. Les utilisateurs qui connectent leurs calendriers à leurs comptes Otter peuvent également basculer leurs paramètres de partage automatique sur « tous les invités de l'événement » pour partager automatiquement les notes de la réunion après avoir appuyé sur Enregistrer.
En plus des informations fournies par les utilisateurs lors de l'inscription, OtterPilot collecte des captures d'écran automatiques des réunions virtuelles, du texte, des images ou des vidéos que les utilisateurs téléchargent. Otter partage les informations des utilisateurs avec des tiers, notamment des services d'IA qui fournissent un support back-end pour Otter, des partenaires publicitaires et des forces de l'ordre si nécessaire.
De même, la fonction AI Companion de Zoom peut envoyer des résumés de réunion à tous les participants. Les participants sont avertis et voient une icône scintillante ou un badge d'enregistrement lorsqu'une réunion est en cours d'enregistrement ou que Companion est utilisé. Le paramètre par défaut de Zoom est d'envoyer des résumés à l'hôte de la réunion.
Les deux entreprises ont déclaré que les utilisateurs devraient ajuster leurs paramètres pour éviter tout partage indésirable. Otter « recommande également fortement » de demander le consentement lors de l'utilisation de l'outil lors de réunions. Et n'oubliez pas : si les paramètres de partage automatique sont activés pour tous les participants, chacun recevra les détails de la réunion enregistrée dans son intégralité, et pas seulement la partie à laquelle cette personne a assisté.
Mais Hatim Rahman, professeur associé à la Kellogg School of Management de l'université Northwestern qui étudie les effets de l'IA sur le travail, estime qu'il incombe autant aux entreprises qu'aux utilisateurs de s'assurer que les produits d'IA n'entraînent pas de conséquences inattendues au travail.
« Les entreprises doivent être conscientes que des personnes d'âges et de capacités techniques différents vont utiliser ces produits », a-t-il déclaré. Les utilisateurs pourraient supposer que l'IA devrait savoir quand les participants quittent les réunions et donc ne pas leur envoyer ces parties de la transcription. « C'est une hypothèse très raisonnable. »
Bien que les utilisateurs doivent prendre le temps de se familiariser avec la technologie, les entreprises pourraient créer davantage de frictions dans le produit de sorte que si certains participants quittent la réunion à mi-chemin, par exemple, l'organisateur pourrait demander à l'organisateur de confirmer s'ils doivent quand même obtenir la transcription complète.
Trop souvent, les cadres qui décident de mettre en œuvre des outils d'IA à l'échelle de l'entreprise ne sont pas bien informés des risques, a déclaré Will Andre, consultant en cybersécurité. Dans sa précédente carrière de spécialiste du marketing, il est tombé un jour sur une vidéo de ses patrons décidant qui serait licencié lors d'une prochaine vague de licenciements. Le logiciel d'enregistrement de la réunion vidéo avait été configuré pour enregistrer automatiquement une copie sur le serveur public de l'entreprise. (Il a décidé de faire comme s'il ne l'avait jamais vue.)
« Ce n'est pas toujours à vous, en tant qu'employé, de contester l'utilisation de certaines de ces technologies sur les lieux de travail », a déclaré Andre. Mais les employés, a-t-il noté, sont ceux qui ont le plus à perdre.