Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 4483

Incidents associés

Incident 8925 Rapports
Apple Intelligence Allegedly Flags Scam Messages as High Priority

Loading...
Apple Intelligence estime que les e-mails de phishing sont des messages « prioritaires »
lifehacker.com · 2024

Apple Intelligence est peut-être intelligent, mais il lui reste beaucoup à apprendre, notamment le fait que les e-mails de phishing ne sont pas ce qu'ils prétendent être. (En fait, vous n'avez gagné aucun prix, Apple Intelligence, alors s'il vous plaît, ne transférez pas d'argent à qui que ce soit.)

Comme le rapporte Android Authority, Apple Intelligence a actuellement du mal à éliminer les e-mails de phishing et de spam lors de la priorisation des e-mails dans les boîtes de réception de ses utilisateurs. Le filtrage fait partie de la nouvelle expérience Mail d'iOS 18.1, qui utilise Apple Intelligence pour analyser votre boîte de réception et faire flotter les e-mails les plus importants en haut de la liste. En théorie, vous devriez ouvrir Mail dans iOS 18.1 et voir une liste organisée d'e-mails urgents provenant de collègues, d'entreprises et d'amis, plutôt que l'assortiment habituel de courriers indésirables et de spams. Cela ne fonctionne pas tout à fait de cette façon pour certains utilisateurs.

Si vous installez la version bêta d'iOS 18.1 sur votre iPhone 15 Pro en ce moment, les spams de phishing pourraient non seulement se trouver en haut de votre boîte de réception, mais également être identifiés comme des e-mails critiques. Un utilisateur du subreddit iOSBeta a publié un exemple qu'il a rencontré lors du test d'Apple Intelligence : L'IA avait décidé qu'un e-mail de « Xfinity.com » était prioritaire et l'avait mis en surbrillance en haut de sa boîte de réception. Bien sûr, toute personne habituée à ce genre d'e-mails le repérerait instantanément comme une tentative de phishing : le message avertit l'utilisateur d'une « suspension de compte en raison de problèmes de facturation », qui peut être résolue en se réinscrivant aux paiements automatiques. Il est probable qu'il y ait un faux site Web à l'autre bout du lien qui se ferait un plaisir de récupérer les informations de votre carte de crédit, mais l'IA d'Apple n'a pas pu faire la différence.

D'autres Redditors dans le fil ont signalé des expériences similaires avec Apple Intelligence qui donne la priorité aux spams et aux e-mails de phishing, ce qui suggère que l'IA a du mal à identifier ces types de messages à partir d'e-mails réels provenant d'entreprises et d'organisations.

Apple Intelligence est toujours en version bêta

Pour être juste envers Apple, Apple Intelligence est en phase de test bêta en ce moment. En fait, iOS 18.1 marque le premier déploiement du système d'IA d'Apple, et il est destiné aux développeurs pour le tester et fournir des commentaires. Vous devez passer par quelques étapes pour même obtenir Apple Intelligence sur votre iPhone 15 Pro ou Mac ou iPad de la série M à ce stade, ce n'est donc pas une vulnérabilité généralisée avec la technologie (pour l'instant). Après tout, le but des tests bêta est d'éliminer ce genre de problèmes avant que le logiciel ne soit publié au grand public, et Apple est probablement à deux ou trois mois de cela sur son calendrier actuel. (Il est également utile que seuls les iPhone 15 Pro et 15 Pro Max soient capables d'exécuter Apple Intelligence, ce qui limite le nombre d'utilisateurs concernés.)

Cependant, bêta ou non, c'est un autre exemple du fait que l'IA actuelle n'est pas un moyen infaillible d'améliorer instantanément notre technologie. Aussi utiles que puissent être certaines de ces nouvelles fonctionnalités, l'IA peut et va faire des erreurs. Elle peut même « halluciner » ou inventer des choses entièrement. Espérons qu'au moment où Apple déploiera officiellement Apple Intelligence sur les appareils compatibles, elle aura entraîné l'IA à être un peu plus cynique quant au contenu de vos e-mails. Personnellement, je préfère qu'elle ne donne la priorité à aucun de mes messages plutôt que de me pousser à résoudre des escroqueries évidentes dès que possible.

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd