Incidentes Asociados
¿Se puede confiar en la inteligencia artificial para que transmita información confidencial?
Esa era la pregunta que se planteaba cuando el popular servicio de transcripción de inteligencia artificial Otter, que tiene más de 14 millones de usuarios, envió una transcripción automática de una reunión de Zoom al investigador de inteligencia artificial Alex Bilzerian la semana pasada después de que se reuniera con una empresa de capital riesgo. El problema es que Bilzerian no debía ver la transcripción completa, que también transcribió conversaciones que no debía escuchar entre los capitalistas de riesgo después de la llamada oficial.
Bilzerian escribió que la inteligencia artificial incluyó "horas de sus conversaciones privadas" que incluían "detalles íntimos y confidenciales sobre su negocio" en una publicación en X que ha sido vista más de cinco millones de veces.
Una empresa de capital riesgo con la que tuve una reunión por Zoom utilizó Otter AI para grabar la llamada y, después de la reunión, me envió automáticamente por correo electrónico la transcripción, incluidas horas de sus conversaciones privadas posteriores, en las que discutieron detalles íntimos y confidenciales sobre su negocio.
— Alex Bilzerian (@alexbilz) 26 de septiembre de 2024
Otter respondió a Bilzerian en X y afirmó que la empresa de capital riesgo podría haber optado por no compartir la transcripción automáticamente. No está claro si la empresa olvidó finalizar una llamada de Zoom o desactivó la transcripción de IA después de la llamada.
Bilzerian le dijo a The Washington Post que decidió no seguir adelante con el acuerdo basándose en la transcripción que recibió.
Los usuarios de X expresaron su preocupación por la mayor presencia de la IA en las reuniones y compartieron anécdotas relacionadas en respuesta a la publicación de Bilzerian.
Mark Cecchini, director de soluciones patrimoniales en Quadrant Capital, escribió que los asistentes de IA se sumaban a las reuniones con más frecuencia sin autorización para hacerlo. Kristen Ruby, directora ejecutiva de la empresa de relaciones públicas Ruby Media Group, señaló que la terapia virtual se realiza a través de videollamadas grabadas, lo que podría dar lugar a un posible hackeo de datos.
Un usuario de X escribió que su esposa recibió una transcripción de IA de una reunión privada, mientras que otro afirmó que recibió una transcripción después de una entrevista con una conversación grabada sobre por qué no eran una buena opción.
Las preocupaciones sobre la privacidad de la IA no son nuevas. Según el Centro de Estudios Estratégicos e Internacionales, la IA tiene el potencial de aumentar el alcance de la vigilancia al mejorar la tecnología de reconocimiento facial y los algoritmos predictivos en las redes sociales.
Sin embargo, la IA puede tener un lado positivo. Un estudio de Goldman Sachs de mayo de 2024 estima que la IA podría aumentar la productividad en un 25% y señala que "las primeras señales de futuras ganancias de productividad parecen muy, muy positivas".