Incidents associés
Alex Bilzerian, ingénieur et chercheur, a récemment vécu un incident d’IA troublant impliquant Otter AI, un outil de transcription populaire. Après une réunion Zoom avec une société de capital-risque, Bilzerian a reçu non seulement la transcription de la réunion, mais aussi des heures de conversations privées qui ont eu lieu après son départ. Les investisseurs, ignorant qu’Otter AI continuait à transcrire, avaient continué à discuter de questions commerciales confidentielles, et ces détails ont été envoyés par erreur à Bilzerian par courrier électronique.
Bilzerian a partagé l’incident sur les réseaux sociaux, exprimant son malaise face à l’incapacité de l’entreprise à protéger les informations sensibles. Bien que les investisseurs se soient excusés, l’abus de confiance a conduit Bilzerian à se retirer de l’accord potentiel. Cet incident souligne les risques liés à l’utilisation d’outils d’IA dans des contextes professionnels sans une compréhension complète de leurs limites et des pièges potentiels en matière de confidentialité.
Le problème clé dans cette affaire était l’incapacité d’Otter AI à arrêter la transcription une fois la réunion terminée. Comme l’a expliqué Naomi Brockwell, une défenseure de la vie privée, au Washington Post, les gens sous-estiment souvent le caractère invasif de l’IA. La fuite involontaire de conversations privées par le biais d'outils de transcription d'IA comme Otter présente de graves risques pour la confidentialité, pouvant conduire à des poursuites judiciaires ou à des relations commerciales endommagées.
Otter AI a réagi à l'incident en affirmant son engagement en faveur de la confidentialité et en reconnaissant les préoccupations soulevées. Cependant, la situation reflète un problème plus large, la technologie de l'IA progressant plus vite que la capacité des utilisateurs à la gérer de manière responsable. Hatim Rahman, professeur à l'université Northwestern, a souligné l'importance de comprendre la technologie avant de l'utiliser dans des contextes critiques. Il a souligné que tous les utilisateurs d'outils d'IA ne sont pas férus de technologie et que des incidents comme celui-ci mettent en évidence le risque que les choses tournent mal sans les précautions appropriées.
En fin de compte, cela sert de signal d'alarme pour les entreprises et les particuliers qui utilisent des outils basés sur l'IA pour s'assurer qu'ils ont le contrôle sur le moment et la manière dont ces outils sont utilisés. La leçon ici est claire : si vous utilisez des services de transcription d'IA, assurez-vous qu'ils arrêtent d'écouter à la fin de la réunion, sinon vous risquez de recevoir beaucoup plus d'informations que prévu.