Incidentes Asociados
Las nuevas funciones de inteligencia artificial de Apple están reformulando los mensajes y correos electrónicos fraudulentos que se envían a los usuarios de iPhone y Mac para que parezcan más legítimos y luego los marcan como una prioridad, lo que genera preocupaciones de que esto hará que más personas caigan en la trampa.
A fines del año pasado, Apple lanzó su actualización “Apple Intelligence” impulsada por IA para millones de usuarios australianos de iPhone, iPad y computadoras Mac.
Sus características principales incluyen capacidades de resumen y priorización de notificaciones. Estas utilizan tecnología de IA para resumir el significado de múltiples notificaciones push en un solo mensaje o para marcar ciertas alertas como una prioridad.
El ejemplo de Apple de este resumen en acción muestra un chat grupal con amigos que se ha condensado en una única notificación que dice: “Brunch después del fútbol el sábado; se sugiere restaurante o anfitrión en casa”.
De manera similar, la función de priorización de Apple ejemplo, que la empresa promociona como la que marca los “correos electrónicos más urgentes”, muestra que resalta los correos electrónicos de amigos, colegas y una aerolínea sobre demandas inminentes.
Apple ya ha sido criticada después de que estas funciones resumieran incorrectamente en repetidas ocasiones los titulares de la BBC, como por ejemplo al afirmar falsamente que Luigi Mangione, el supuesto asesino del director ejecutivo de UnitedHealthcare, Brian Thompson, se había suicidado.
Este problema también se extiende a las comunicaciones personales de las personas. Las capturas de pantalla de los usuarios de iPhone muestran que este nuevo conjunto de funciones impulsadas por IA parece incapaz de distinguir entre los mensajes enviados por personas y organizaciones reales y las solicitudes falsas realizadas por estafadores que imitan a otras. De hecho, las funciones impulsadas por IA pueden incluso dificultar a los usuarios distinguir inicialmente entre mensajes reales y falsos.
Steve, un seudónimo otorgado porque su trabajo no lo ha autorizado a hablar con los medios, se sorprendió al ver que su iPhone recientemente actualizado había priorizado y resumido un correo electrónico que decía que tenía que presentar una declaración de ingresos a la Oficina de Impuestos de Australia.
“El impuesto sobre la renta de 751,23 AUD para el período de noviembre a diciembre de 2024 está pendiente de preparación para su presentación”, decía la notificación destacada.
Esto no tenía sentido. Steve estaba decepcionado de que las nuevas funciones de Apple hubieran marcado este obvio mensaje de estafa como una prioridad.
“Es divertido burlarse de la IA, pero tener una herramienta de IA que está a bordo de millones de dispositivos que permite estafas como esta atrapará a la gente y les costará dinero”, dijo en un mensaje.
Otras personas han publicado ejemplos similares en las redes sociales. El profesor honorario de la UQ Jeremy Howard compartió una captura de pantalla en Bluesky de una alerta priorizada, comentando: “¿Quizás Apple Intelligence no debería marcar los correos electrónicos fraudulentos como 'Prioritarios' con un resumen que diga que es por motivos de seguridad?”
Otro usuario de Bluesky, @colin.hoagie.fun, compartió una captura de pantalla de un mensaje de texto resumido por Apple que supuestamente proviene del servicio postal estadounidense USPS, y que sugiere: “Imagínese si Apple Intelligence realmente hubiera marcado los mensajes fraudulentos en lugar de resumirlos de manera útil”.
Daswin De Silva, catedrático de IA y análisis de la Universidad La Trobe y subdirector del Centro de Análisis de Datos y Cognición, afirma que los australianos, que informaron haber perdido 2.700 millones de dólares en estafas en 2023, correrán un mayor riesgo porque la gente confiará en los resúmenes de Apple.
“Debido a la publicidad de la IA, a que muchos expertos dicen que es realmente buena, a que el gobierno financia muchos programas de IA, a que escuchamos que hay IA en mi teléfono que podemos usar para ser más eficientes o más productivos, entonces confiaremos en esta IA”, afirmó.
De Silva afirmó que los resúmenes podrían hacer que la gente sea más propensa a caer en estafas al eliminar los indicadores de legitimidad para que todos los mensajes, sean estafas o no, parezcan iguales. “Al intentar reducir la información, en realidad estás creando más trabajo para el usuario final o el consumidor para evaluar la información y luego buscar factores de explicabilidad y entrar en los mensajes reales y comenzar a leerlos de nuevo”.
De Silva dijo que las empresas han sido impacientes con el lanzamiento de nuevas funciones de IA, lidiando con cualquier problema después de su lanzamiento.
“La gente todavía se está acostumbrando a trabajar con IA o vivir con IA, y es por eso que tiene que lanzarse en un proceso gradual. Lanzar nuevas funciones cada tantos meses realmente no ayuda”.
Apple no respondió a una solicitud de comentarios, sin embargo, la compañía le dijo a la BBC a principios de esta semana que actualizaría la función para “aclarar cuándo el texto que se muestra es un resumen proporcionado por Apple Intelligence”.