Incidentes Asociados
La actualización "Apple Intelligence" de Apple, introducida a finales de 2024, está en el punto de mira por hacer que los mensajes fraudulentos parezcan legítimos. Las funciones impulsadas por IA, diseñadas para resumir y priorizar las notificaciones, han marcado los mensajes fraudulentos como alertas prioritarias en iPhones, iPads y ordenadores Mac.
Apple Intelligence condensa varias notificaciones en un único resumen y destaca los mensajes urgentes, como los correos electrónicos de compañeros o de aerolíneas. Sin embargo, los usuarios han informado de que la IA tiene dificultades para diferenciar las estafas de las alertas auténticas.
Por ejemplo, un usuario de iPhone vio un correo electrónico fraudulento en el que se afirmaba que debía 465 dólares, priorizado por el sistema. "Tener una herramienta de IA a bordo de millones de dispositivos que permita estafas como esta va a pillar a la gente y les va a costar dinero", dijo.
Otros usuarios en las redes sociales han compartido ejemplos similares, como el profesor de la UQ Jeremy Howard criticando a Apple por marcar las estafas como una prioridad. Otro usuario destacó un mensaje falso de USPS resumido por la IA para que pareciera legítimo, como se muestra en la captura de pantalla a continuación.
Estos incidentes muestran cómo la función podría aumentar inadvertidamente la efectividad de las estafas.
Los expertos advierten que la dependencia de la función en el resumen elimina un contexto importante, lo que dificulta que los usuarios identifiquen mensajes fraudulentos. Daswin De Silva, un experto en IA de la Universidad La Trobe, señaló que la falta de detalles obliga a los usuarios a reevaluar los mensajes, lo que genera más trabajo. También criticó a las empresas de tecnología por apresurarse a implementar funciones de IA sin abordar los riesgos potenciales.
Actualización planificada de Apple
Apple le dijo a la BBC que planea actualizar la función para aclarar cuándo los resúmenes son generados por IA, con el objetivo de reducir la confusión. Hasta entonces, los expertos recomiendan verificar manualmente los mensajes marcados y abordar los resúmenes de IA con precaución.