Incidents associés
Les nouvelles fonctionnalités d’intelligence artificielle d’Apple reformulent les messages et les e-mails frauduleux adressés aux utilisateurs d’iPhone et de Mac pour les rendre plus légitimes, puis les signalent comme prioritaires, ce qui fait craindre que davantage de personnes ne se laissent piéger.
À la fin de l’année dernière, Apple a déployé sa mise à jour « Apple Intelligence » alimentée par l’IA auprès de millions d’utilisateurs australiens d’iPhone, d’iPad et d’ordinateurs Mac.
Ses fonctionnalités phares incluent la synthèse et la priorisation des notifications. Celles-ci utilisent la technologie de l’IA pour résumer la signification de plusieurs notifications push dans un seul message, ou pour signaler certaines alertes comme prioritaires.
L'exemple d'Apple [https://support.apple.com/fr-fr/guide/mac-help/mchldf5e4cb6/mac] montre une conversation de groupe avec des amis qui a été condensée en une seule notification indiquant : « Brunch après le foot samedi ; restaurant ou hôte à domicile suggéré ».
De même, la fonction de priorisation d'Apple exemple, que l'entreprise présente comme signalant les « e-mails les plus urgents », montre qu'elle met en évidence les e-mails d'amis, de collègues et d'une compagnie aérienne concernant des demandes imminentes.
Apple a déjà été critiqué après que ces fonctionnalités aient résumé de manière erronée les gros titres de la BBC à plusieurs reprises, par exemple en affirmant à tort que Luigi Mangione, le présumé meurtrier de Brian Thompson, PDG d’UnitedHealthcare, s’était tiré une balle dans la tête.
Ce problème s’étend également aux communications personnelles des gens. Des captures d’écran d’utilisateurs d’iPhone montrent que cette nouvelle suite de fonctionnalités alimentées par l’IA semble incapable de faire la distinction entre les messages envoyés par de vraies personnes et organisations et les fausses demandes faites par des escrocs imitant d’autres personnes. En fait, les fonctionnalités alimentées par l’IA peuvent même rendre plus difficile pour les utilisateurs de faire la distinction initiale entre les messages réels et les faux.
Steve, un pseudonyme accordé car son travail ne l’autorise pas à parler aux médias, a été surpris de voir que son iPhone récemment mis à jour avait donné la priorité et résumé un e-mail indiquant qu’il devait déposer une déclaration de revenus auprès du bureau fiscal australien.
« L’impôt sur le revenu de 751,23 AUD pour la période de novembre à décembre 2024 est en attente de préparation pour le dépôt », indiquait la notification en surbrillance.
C’était absurde. Steve était déçu que les nouvelles fonctionnalités d’Apple aient signalé ce message d’escroquerie évident comme une priorité.
« C’est amusant de se moquer de l’IA, mais avoir un outil d’IA intégré à des millions d’appareils qui permet des escroqueries comme celle-ci va piéger les gens et leur coûter de l’argent », a-t-il déclaré dans un message.
D’autres personnes ont publié des exemples similaires sur les réseaux sociaux. Le professeur honoraire de l’UQ, Jeremy Howard, a partagé une capture d’écran sur Bluesky d’une alerte prioritaire, en faisant remarquer « Peut-être qu’Apple Intelligence ne devrait pas marquer les e-mails frauduleux comme « prioritaires » avec un résumé indiquant que c’est pour des raisons de sécurité ? »
Un autre utilisateur de Bluesky, @colin.hoagie.fun, a partagé une capture d'écran d'un message texte résumé par Apple prétendant provenir du service postal américain USPS, suggérant « Imaginez si Apple Intelligence avait réellement signalé les messages frauduleux au lieu de les résumer utilement ? »
Daswin De Silva, professeur titulaire d’IA et d’analyse à l’université La Trobe et directeur adjoint du Centre d’analyse des données et de cognition, affirme que les Australiens, qui ont signalé perdu 2,7 milliards de dollars à cause d’escroqueries en 2023, courront un plus grand risque car les gens feront confiance aux résumés d’Apple.
« En raison du battage médiatique autour de l’IA, de nombreux experts affirmant que c’est vraiment une bonne chose, du financement par le gouvernement de nombreux programmes d’IA, nous entendons dire qu’il y a une IA dans mon téléphone que nous pouvons utiliser pour être plus efficaces ou plus productifs, alors nous ferons confiance à cette IA », a-t-il déclaré.
De Silva a déclaré que les résumés pourraient rendre les gens plus susceptibles de tomber dans le piège des escroqueries en supprimant les indicateurs de légitimité afin que tous les messages, escrocs ou non, se ressemblent. « En essayant de réduire les informations, vous créez en fait plus de travail pour l’utilisateur final ou le consommateur qui doit évaluer les informations, puis rechercher des facteurs d’explication, examiner les messages réels et recommencer à les lire. »
De Silva a déclaré que les entreprises ont été impatientes de publier de nouvelles fonctionnalités d’IA, traitant tous les problèmes après leur publication.
« Les gens s’habituent encore à travailler avec l’IA ou à vivre avec l’IA, et c’est pourquoi il faut la publier de manière progressive. Abandonner de nouvelles fonctionnalités tous les quelques mois n’aide vraiment pas. »
Apple n’a pas répondu à une demande de commentaire, mais la société a déclaré à la BBC plus tôt cette semaine qu’elle mettrait à jour la fonctionnalité pour « clarifier quand le texte affiché est un résumé fourni par Apple Intelligence ».