Incidents associés
Peut-on confier des informations confidentielles à l'IA ?
C'est la question qui s'est posée lorsque le célèbre service de transcription par IA Otter, qui compte plus de 14 millions d'utilisateurs, a envoyé la semaine dernière une transcription automatique d'une réunion Zoom au chercheur en IA Alex Bilzerian après sa rencontre avec une société de capital-risque. Le problème est que Bilzerian n'était pas censé voir la transcription complète, qui retranscrivait également des conversations qu'il n'était pas censé entendre entre les capital-risqueurs après l'appel officiel.
Bilzerian a écrit que l'IA avait inclus « des heures de leurs conversations privées », y compris « des détails intimes et confidentiels sur leur entreprise », dans un post sur X qui a été consulté plus de cinq millions de fois.
Une société de capital-risque avec laquelle j'ai eu une réunion Zoom a utilisé Otter AI pour enregistrer l'appel, et après la réunion, elle m'a automatiquement envoyé par e-mail la transcription, y compris des heures de leurs conversations privées par la suite, où ils ont discuté de détails intimes et confidentiels sur leur entreprise.
— Alex Bilzerian (@alexbilz) 26 septembre 2024
Otter a répondu à Bilzerian sur X et a déclaré que la société de capital-risque aurait pu choisir de ne pas partager automatiquement la transcription. On ne sait pas si l'entreprise a oublié de mettre fin à un appel Zoom ou de désactiver la transcription par IA après l'appel.
Bilzerian a déclaré au Washington Post qu'il avait décidé de ne pas conclure l'accord sur la base de la transcription qu'il avait reçue.
Les utilisateurs de X ont exprimé leurs inquiétudes quant à l'empreinte accrue de l'IA dans les réunions et ont partagé des anecdotes à ce sujet en réponse à la publication de Bilzerian.
Mark Cecchini, directeur des solutions de gestion de patrimoine chez Quadrant Capital, a écrit que les assistants IA rejoignaient les réunions plus souvent sans y être autorisés. Kristen Ruby, PDG de l'agence de relations publiques Ruby Media Group, a souligné que la thérapie virtuelle se déroule par le biais d'appels vidéo enregistrés, ce qui peut conduire à un piratage de données.
Un utilisateur de X a écrit que sa femme avait obtenu une transcription par IA d'une réunion privée, tandis qu'un autre a affirmé qu'ils avaient reçu une transcription après un entretien avec une conversation enregistrée expliquant pourquoi ils n'étaient pas faits l'un pour l'autre.
Les inquiétudes concernant la confidentialité de l'IA ne sont pas nouvelles. Selon le Center for Strategic and International Studies, l’IA a le potentiel d’accroître la portée de la surveillance en améliorant la technologie de reconnaissance faciale et les algorithmes prédictifs sur les réseaux sociaux.
L’IA pourrait toutefois avoir un avantage. Une étude de Goldman Sachs de mai 2024 estime que l'IA pourrait augmenter la productivité de 25 % et note que « les premiers signaux de gains de productivité futurs semblent très, très positifs ».