Incidentes Asociados
Los usuarios de las plataformas de redes sociales Reddit y Panic se quejan de que la nueva plataforma de inteligencia artificial (IA) de Apple, Apple Intelligence, prioriza los correos electrónicos de phishing.
Un usuario de Reddit publicó en la comunidad IOSBeta de Reddit que Apple Intelligence agregó un correo electrónico de phishing a la lista de prioridades del usuario.
La publicación tiene el título: "Apple marca un correo electrónico de phishing como 'prioritario' para que lo abra". Supuestamente, el correo electrónico fue enviado desde Xfinity.com, una empresa de telecomunicaciones estadounidense que ofrece servicios de Internet, planes móviles y televisión por cable.
Algunos de los comentarios de Reddit debajo de la publicación demuestran los sentimientos de los usuarios en torno a Apple Intelligence en versión beta.
Un usuario dijo: "Apple Intelligence es un padre boomer", mientras que otro usuario exclamó: "Un príncipe de Nigeria necesita tu ayuda con una cuenta bancaria congelada", imitando a los estafadores y restándole importancia a la situación.
La vista previa del correo electrónico muestra un mensaje urgente que dice que la cuenta del usuario se suspenderá debido a problemas de facturación a menos que el usuario actualice su información de pago.
De manera similar, en la red social descentralizada Panic.com, un usuario que es cofundador del sitio de redes sociales, Cabel Sasser, afirmó estar experimentando el mismo problema.
"Apple Intelligence en 15.1 acaba de marcar un correo electrónico de phishing como "Prioritario" y lo movió a la parte superior de mi Bandeja de entrada. Esto parece... malo".
La dirección afiliada al correo electrónico enviado a Sasser es info@msnbilling.co.in. Según Shopify, una de las plataformas de comercio electrónico más grandes de Internet, este dominio .co.in es el segundo dominio más popular en India.
Al usar Email Hippo, una herramienta de verificación de correo electrónico en línea, el sitio web explicó que hay al menos tres correos electrónicos como este. La calificación de este correo electrónico fue marcada como "mala" porque la dirección no se puede entregar.
Aunque es difícil verificar la legitimidad de estos correos electrónicos, en parte debido a los avances en IA, ambos usuarios afirman que son correos electrónicos de phishing.
Edward Tian, director ejecutivo de GPTZero, un sitio web que permite verificar el contenido escrito por IA en los textos, dio crédito a este punto. "En la actualidad, la tecnología de IA ha fortalecido los intentos de phishing porque ha hecho que los textos del cuerpo y del asunto del correo electrónico estén menos plagados de errores humanos, lo que hace que mirar datos como la información del remitente sea más importante que nunca".
Estos mensajes maliciosos suelen ser desprevenidos, urgentes y siempre problemáticos.
¿Por qué Apple AI?
Muchos usuarios tanto de Reddit como de Panic especulan que el uso de términos y frases urgentes, similares a los utilizados en los correos electrónicos de phishing, es la razón por la que la IA de Apple ha marcado estos mensajes como una prioridad.
Los expertos también coinciden en que el contenido del correo electrónico es lo que lo empuja a la lista de prioridades.
"La razón principal por la que Apple Intelligence tiene problemas para marcar los correos electrónicos de phishing como prioritarios, en lugar de marcarlos como spam, es por la forma en que está diseñado su algoritmo", dijo Tian.
Tian explicó que el algoritmo está diseñado para analizar datos del asunto y el cuerpo del correo electrónico.
"Según los datos disponibles, parece que solo están mirando el texto y cómo está estructurado, qué sentido de urgencia y tono demuestra, y la gramática en general", dijo Joshua Bartolomie, vicepresidente de Servicios de Amenazas Globales en Cofense.
"Por lo que se ha visto, no están considerando ninguno de los métodos comunes o conocidos para las técnicas de phishing, como remitentes falsos o suplantación de dominio, o validaciones y comprobaciones relacionadas", concluye Bartolomie.
En la página web de Apple Intelligence, la empresa incluso dice que "los mensajes prioritarios en Mail elevan los mensajes urgentes a la parte superior de su bandeja de entrada, como una invitación que tiene una fecha límite hoy o un recordatorio de facturación para su vuelo de esta tarde".
Ambos correos electrónicos muestran un nivel de urgencia, y el de Sasser era urgente, considerando que insta al destinatario a renovar su suscripción antes del 4 de agosto de 2024.
Sasser confirmó que si "escribes un mensaje de spam con un sonido de urgencia apropiado, seguramente la IA le dará credibilidad al colocarlo en su propia sección especial de información importante".
Además, el CEO de GPTZero dijo que "la tecnología de IA no analiza datos como la información del remitente, que es un aspecto esencial para identificar ataques de phishing".
Los expertos también han dicho que las empresas necesitan entrenar el modelo de IA (que todavía está en versión beta) para detectar intentos de phishing y responder adecuadamente a ellos.
"Si se pretende la seguridad del correo electrónico, la IA de Apple podría no tener suficientes ejemplos de correos electrónicos de phishing en sus datos de entrenamiento", dijo Eyal Benishti, CEO de IRONSCALES.
"Al mejorar la IA de la empresa con más ejemplos de phishing, aprendizaje continuo y comentarios de los usuarios, pueden mejorar la detección y la priorización".
Aunque parezcan incidentes aislados, los estafadores no son parciales, los correos electrónicos de phishing llegarán a todo el mundo en algún momento. Incluso algunos de los usuarios de Reddit se quejaron de problemas similares.
Reacción de Reddit, respuesta de Panic
Otros usuarios de Reddit han experimentado lo mismo, incluso dijeron que habían recibido los mismos correos electrónicos de phishing de la supuesta dirección "Xfinity".
Otro usuario dijo: "Recibo esos correos electrónicos de suspensión de factura de Xfinity todo el tiempo ahora. Los últimos meses, comenzaron".
Pero es importante tener en cuenta, como dijo un usuario en Panic, "Apple Intelligence reconoce esas palabras como una notificación importante de la cuenta. Apple Wisdom sabe que no se debe hacer clic en ella".
Hagas lo que hagas, no hagas clic en ese enlace
Al encontrarse con correos electrónicos de phishing, los usuarios deben "siempre practicar el discernimiento y las buenas medidas de ciberseguridad cada vez que vean cualquier tipo de mensaje que se les envíe", agregó Tian.
Si recibe un correo electrónico de phishing, asegúrese de "no responder al remitente y no seguir ninguna instrucción o solicitud contenida en el correo electrónico", dijo Benishti.
Cuando se encuentre con estos correos electrónicos, asegúrese de informar el problema a un proveedor de servicios oficial. "Infórmelo como phishing en el cliente de correo electrónico. Si el mensaje intenta suplantar a una empresa, vaya al sitio web de esa empresa para informar el problema", dijo Benishti.
Cabel Sasser, quien inició esta saga, implora a los usuarios que han experimentado los mismos problemas que informen del asunto. "(Si está en Apple, al usar el nuevo sistema de comentarios 'Califique sus experiencias', aparentemente informé de un error en esto: FB14656882)".
Sin embargo, un usuario de Reddit hizo una muy buena observación. Dijo que se supone que estos errores están ahí. El usuario explicó:
"Ustedes saben que el objetivo de una versión beta es informar sobre este tipo de cosas para que se puedan solucionar antes de que se lance al público en general, ¿no? No se trata solo de un acceso anticipado, por lo que se cometerán muchos errores, no solo errores, pero como usuario de la versión beta, estás ayudando a la IA a aprender qué priorizar y qué no, y cómo detectar cosas como el spam, tal como lo haría un humano competente. Esto es solo para aquellos que toman las versiones beta como lanzamientos de acceso anticipado en lugar de lo que realmente son: pruebas públicas/para desarrolladores".
¿Podrá Apple solucionar este problema?
Seguro, con algunos ajustes, alimentando al modelo de IA con más datos sobre ataques de phishing y entrenándolo para que marque este tipo de correos electrónicos correctamente, no deberíamos ver que este problema vuelva a surgir.