Problème 5167

Un phénomène étrange se produit dans le monde de l'intelligence artificielle : à mesure que les robots gagnent en puissance, ils génèrent plus d'erreurs – des « hallucinations » – que jamais, rapporte le New York Times (https://www.nytimes.com/2025/05/05/technology/ai-hallucinations-chatgpt-google.html). Comme l'expliquent les journalistes techniques Cade Metz et Karen Weise, « la raison n'est pas tout à fait claire ». À titre d'exemple, ils rapportent que le nouveau système de raisonnement o3 amélioré déployé par Open AI a halluciné dans 33 % des cas lors d'un test de référence impliquant des questions sur des personnalités publiques. C'est inquiétant, mais le plus inquiétant est que le taux d'erreur est deux fois supérieur à celui du système de raisonnement précédent. Des statistiques similaires réalisées par d'autres entreprises confirment l'idée qu'il s'agit d'une tendance sectorielle.

Dans un exemple concret, ils racontent comment un robot d'IA pour Cursor, un outil destiné aux programmeurs, a informé ses clients qu'une nouvelle politique de l'entreprise leur interdisait d'utiliser Cursor sur plusieurs ordinateurs. Suite à une vive réaction, le directeur général a dû expliquer qu'une telle politique n'existait pas. Le problème majeur est que les robots basent leurs réponses sur l'analyse de vastes quantités de données ; ils ne peuvent pas déterminer objectivement ce qui est vrai ou faux. « Malgré tous nos efforts, ils auront toujours des hallucinations », explique Amr Awadallah de Vectara, qui développe des outils d'IA pour les entreprises, au Times. « Cela ne disparaîtra jamais. » - Un article publié sur Futurism par Victor Tangermann considère tout cela comme un sérieux problème pour l'industrie. « En bref, malgré tous leurs efforts, les hallucinations n'ont jamais été aussi répandues – et pour l'instant, la technologie ne va même pas dans la bonne direction. »

• L'année dernière, Jensen Huang, PDG de Nvidia, a fourni une évaluation globale et a prédit qu'il faudrait un certain temps avant que les robots ne vérifient systématiquement leurs informations, selon Tom's Hardware. « Je pense que nous sommes encore à plusieurs années de pouvoir y parvenir, et en attendant, nous devons continuer à augmenter nos capacités de calcul. »