Incidents associés
Les utilisateurs des plateformes de médias sociaux Reddit et Panic se plaignent que la nouvelle plateforme d'intelligence artificielle (IA) d'Apple, Apple Intelligence, donne la priorité aux e-mails de phishing.
Un utilisateur de Reddit a posté sur la communauté IOSBeta sur Reddit qu'Apple Intelligence avait ajouté un e-mail de phishing à la liste de priorités de l'utilisateur.
La publication est sous-titrée : « Apple marque un e-mail de phishing comme « prioritaire » pour que je l'ouvre. » L'e-mail aurait été envoyé par Xfinity.com, une société de télécommunications américaine qui fournit des services Internet, des forfaits mobiles et des services de télévision par câble.
Certains commentaires Reddit sous la publication montrent les sentiments des utilisateurs concernant Apple Intelligence en version bêta.
Un utilisateur a déclaré : « Apple Intelligence est un père baby-boomer », tandis qu'un autre utilisateur s'est exclamé : « Un prince du Nigéria a besoin de votre aide pour un compte bancaire gelé », imitant les escrocs et prenant la situation à la légère.
L'aperçu de l'e-mail affiche un message urgent indiquant que le compte de l'utilisateur sera suspendu en raison de problèmes de facturation à moins que l'utilisateur ne mette à jour ses informations de paiement.
De même, sur le réseau social décentralisé Panic.com, un utilisateur qui est le cofondateur du site de médias sociaux, Cabel Sasser, a déclaré rencontrer le même problème.
"Apple Intelligence dans 15.1 vient de signaler un e-mail de phishing comme "Prioritaire" et l'a déplacé en haut de ma boîte de réception. Cela semble... mauvais."
L'adresse affiliée à l'e-mail envoyé à Sasser est info@msnbilling.co.in. Selon Shopify, l'une des plus grandes plateformes de commerce électronique sur Internet, ce domaine .co.in est le deuxième domaine le plus populaire en Inde.
Lors de l'utilisation d'Email Hippo, un outil de vérification d'e-mails en ligne, le site Web a expliqué qu'il existe au moins trois e-mails comme celui-ci. La note de cet e-mail a été marquée comme "mauvaise" car l'adresse n'est pas livrable.
Bien qu'il soit difficile de vérifier la légitimité de ces e-mails, en partie en raison des progrès de l'IA, les deux utilisateurs affirment qu'il s'agit d'e-mails de phishing.
Edward Tian, PDG de GPTZero, un site Web qui permet de vérifier le contenu écrit par l'IA dans les textes, a donné du crédit à ce point. « De nos jours, la technologie de l'IA a renforcé les tentatives de phishing car elle a rendu le corps et l'objet des e-mails moins entachés d'erreurs humaines, ce qui rend l'examen de données telles que les informations sur l'expéditeur plus important que jamais. »
Ces messages malveillants sont généralement insoupçonnés, urgents et toujours problématiques.
Pourquoi l'IA d'Apple ?
De nombreux utilisateurs de Reddit et de Panic spéculent que l'utilisation de termes et d'expressions urgents, similaires à ceux utilisés dans les e-mails de phishing, est la raison pour laquelle l'IA d'Apple a marqué ces messages comme prioritaires.
Les experts s'accordent également à dire que le contenu de l'e-mail est ce qui le place dans la liste des priorités.
« La principale raison pour laquelle Apple Intelligence rencontre des difficultés à marquer les e-mails de phishing comme prioritaires, plutôt que comme spam, est la façon dont leur algorithme est conçu », a déclaré Tian.
Tian a expliqué que l'algorithme est conçu pour analyser les données de la ligne d'objet et du corps de l'e-mail.
« D'après les données disponibles, ils semblent uniquement examiner le texte et sa structure, le sentiment d'urgence et le ton qu'il démontre, ainsi que la grammaire globale », a déclaré Joshua Bartolomie, vice-président des services mondiaux de menaces chez Cofense.
« D'après ce qui a été observé, ils ne prennent en compte aucune des méthodes courantes ou connues pour les techniques de phishing, telles que les expéditeurs usurpés ou l'usurpation d'identité de domaine, ni les validations et vérifications associées », conclut Bartolomie.
Sur la page Web d'Apple Intelligence, l'entreprise indique même que « les messages prioritaires dans Mail élèvent les messages urgents en haut de votre boîte de réception, comme une invitation avec une date limite pour aujourd'hui ou un rappel d'enregistrement pour votre vol cet après-midi ».
Les deux e-mails affichent un niveau d'urgence, et l'e-mail de Sasser était urgent, étant donné qu'il exhorte le destinataire à renouveler son abonnement avant le 4 août 2024.
Sasser a confirmé que si vous « écrivez un message de spam qui semble urgent, l'IA lui donnera sûrement du crédit et de la crédibilité en le plaçant dans sa propre petite section importante spéciale ».
En outre, le PDG de GPTZero a déclaré que « la technologie de l'IA n'analyse pas les données comme les informations de l'expéditeur, ce qui est un aspect essentiel de l'identification des attaques de phishing ».
Les experts ont également déclaré que les entreprises doivent entraîner le modèle d'IA (qui est encore en version bêta) pour repérer les tentatives de phishing et y répondre de manière appropriée.
« Si la sécurité des e-mails est voulue, l'IA d'Apple pourrait ne pas avoir suffisamment d'exemples d'e-mails de phishing dans ses données de formation », a déclaré Eyal Benishti, PDG d'IRONSCALES.
« En améliorant l'IA de l'entreprise avec davantage d'exemples de phishing, un apprentissage continu et les commentaires des utilisateurs, ils peuvent améliorer la détection et la priorisation. »
Bien que ces incidents puissent sembler isolés, les escrocs ne sont pas partiaux, les e-mails de phishing finiront par arriver à tout le monde. Même certains utilisateurs de Reddit se sont plaints de problèmes similaires.
Réaction de Reddit, réponse de panique
D'autres utilisateurs de Reddit ont vécu la même chose, affirmant même avoir reçu les mêmes e-mails de phishing provenant de la prétendue adresse « Xfinity ».
Un autre utilisateur a déclaré : « Je reçois ces e-mails de suspension de facture Xfinity tout le temps maintenant. Ces derniers mois, ils ont commencé. »
Mais il est important de noter, comme l'a dit un utilisateur sur Panic, que « Apple Intelligence reconnaît ces mots comme une notification de compte importante. Apple Wisdom sait qu'il ne faut pas cliquer dessus. »
Quoi que vous fassiez, ne cliquez pas sur ce lien
Lorsqu'ils rencontrent des e-mails de phishing, les utilisateurs doivent « toujours faire preuve de discernement et de bonnes mesures de cybersécurité chaque fois qu'ils consultent tout type de message qui vous est envoyé », a ajouté Tian.
Si vous recevez un e-mail de phishing, assurez-vous de « ne pas répondre à l'expéditeur et de ne suivre aucune instruction ou demande contenue dans l'e-mail », a déclaré Benishti.
Lorsque vous rencontrez ces e-mails, assurez-vous de signaler le problème à un fournisseur de services officiel. « Signalez-le comme phishing dans le client de messagerie. Si le message tente d'usurper l'identité d'une entreprise, rendez-vous sur le site Web de cette entreprise pour signaler le problème », a déclaré Benishti.
Cabel Sasser, celui qui a lancé cette saga, implore les utilisateurs qui ont rencontré les mêmes problèmes de signaler le problème. "(Si vous êtes chez Apple, en utilisant le nouveau système de commentaires 'Évaluez vos expériences', j'ai apparemment signalé un bug sur ceci : FB14656882.)"
Cependant, un Redditor a fait une très bonne remarque. Il a déclaré que ces bugs sont essentiellement censés être là. L'utilisateur a développé en disant :
"Vous savez que le but d'une version bêta est de signaler des choses comme celles-ci afin que cela puisse être corrigé avant la sortie publique complète, n'est-ce pas ? Ce n'est pas seulement un accès anticipé, donc des erreurs vont se produire beaucoup, pas seulement des bugs, mais en tant qu'utilisateur bêta, vous aidez l'IA à apprendre ce qu'il faut prioriser et ce qu'il ne faut pas faire et comment repérer des choses comme le spam, tout comme le ferait un humain compétent. Ceci est uniquement destiné à ceux qui considèrent les versions bêta comme des versions d'accès anticipé plutôt que comme ce qu'elles sont réellement : des tests publics/de développement".
Apple sera-t-il en mesure de résoudre ce problème ?
Bien sûr, avec quelques ajustements, en fournissant au modèle d'IA plus de données sur les attaques de phishing et en l'entraînant à marquer correctement ces types d'e-mails, nous ne devrions plus voir ce problème réapparaître.