Incidents associés
Apple vient tout juste de commencer à déployer une suite de fonctionnalités d’IA très médiatisées pour ses appareils, et nous constatons déjà des problèmes majeurs. Par exemple, la BBC s’est plainte auprès d’Apple après qu’un résumé de notification alimenté par l’IA a réécrit un titre de la BBC pour dire que le meurtrier du PDG de l’UHC, Luigi Mangione, s’était tiré une balle dans la tête. Mangione ne s’est pas tiré une balle dans la tête et reste en garde à vue.
Apple Intelligence comprend une fonctionnalité sur iOS qui tente de soulager les utilisateurs de la fatigue en regroupant et en résumant les notifications provenant d’applications individuelles. Par exemple, si un utilisateur reçoit plusieurs SMS d’une même personne, au lieu de les afficher tous dans une longue liste, iOS essaiera désormais de résumer les alertes push en une seule notification concise.
Il s’avère – et cela ne devrait surprendre personne connaissant l’IA générative – que l’« intelligence » d’Apple Intelligence trahit le fait que les résumés sont parfois malheureux ou tout simplement erronés. Les résumés de notifications ont été introduits pour la première fois dans iOS dans la version 18.1, sortie en octobre ; plus tôt cette semaine, Apple a ajouté une intégration native avec ChatGPT dans Siri.
Une notification de l’application BBC qui inclut un résumé incorrect.
Dans un article, la BBC a partagé une capture d’écran d’une notification résumant trois histoires différentes qui avaient été envoyées sous forme d’alertes push. La notification se lit comme suit : « Luigi Mangione se tire une balle dans la tête ; une mère syrienne espère qu’Assad paiera le prix ; La police sud-coréenne a perquisitionné le bureau de Yoon Suk Yeol. » Les autres résumés étaient corrects, affirme la BBC.
La BBC s’est plainte auprès d’Apple de cette situation, qui est embarrassante pour l’entreprise technologique mais risque également de nuire à la réputation des médias d’information si les lecteurs pensent qu’ils envoient de fausses informations. Ils n’ont aucun contrôle sur la façon dont iOS décide de résumer leurs alertes push.
« BBC News est le média d’information le plus fiable au monde », a déclaré un porte-parole de la BBC pour l’article. « Il est essentiel pour nous que notre public puisse faire confiance à toute information ou journalisme publié en notre nom, y compris les notifications. » Apple a refusé de répondre aux questions de la BBC sur ce problème.
L’intelligence artificielle a beaucoup de potentiel dans de nombreux domaines, mais les modèles de langage sont peut-être l’une des pires implémentations. Mais les entreprises espèrent beaucoup que la technologie deviendra suffisamment performante pour que les entreprises puissent s’y fier pour des utilisations telles que le chat d’assistance client ou la recherche dans de grandes collections de données internes. Mais ce n’est pas encore le cas. En fait, les entreprises qui utilisent l’IA ont déclaré qu’elles devaient encore effectuer de nombreuses modifications du travail qu’elles produisent.
Il semble quelque peu inhabituel pour Apple d’intégrer en profondeur une technologie aussi peu fiable et imprévisible dans ses produits. Apple n’a aucun contrôle sur les résultats de ChatGPT. Le créateur du chatbot, OpenAI, peut à peine contrôler les modèles de langage, et leur comportement est constamment modifié. Les résumés de notifications courtes devraient être la chose la plus facile à faire pour l’IA, et Apple se trompe même sur ce point.
À tout le moins, certaines des fonctionnalités d’Apple Intelligence montrent comment l’IA pourrait potentiellement avoir des utilisations pratiques. Une meilleure édition de photos et un mode de mise au point qui comprend quelles notifications doivent être envoyées sont appréciables. Mais pour une entreprise associée à des expériences soignées, des résumés de notifications erronés et un ChatGPT hallucinant pourraient donner à iOS une impression de manque de perfection. On a l’impression qu’ils se précipitent sur le train de la hype pour booster les ventes de nouveaux iPhone : un iPhone 15 Pro ou plus récent est nécessaire pour utiliser les fonctionnalités.