Problème 6103

Sam Altman, PDG d'OpenAI, a averti que de nombreux utilisateurs de ChatGPT utilisaient l'IA de manière autodestructrice. Ce commentaire du dirigeant d'OpenAI intervient peu après que l'entreprise a essuyé des critiques suite à l'arrêt de GPT-4o et d'autres modèles plus anciens.

« Si vous avez suivi le déploiement de GPT-5, vous avez peut-être remarqué l'attachement profond de certains utilisateurs à certains modèles d'IA. Cet attachement est différent et plus fort que celui des technologies précédentes (et c'est pourquoi abandonner soudainement les anciens modèles dont les utilisateurs dépendaient dans leurs flux de travail était une erreur). » Altman a écrit dans un article sur X :

« Certains utilisateurs ont utilisé la technologie, y compris l'IA, de manière autodestructrice ; si un utilisateur est mentalement fragile et sujet aux délires, nous ne voulons pas que l'IA renforce cette situation. La plupart des utilisateurs parviennent à distinguer clairement la réalité de la fiction ou du jeu de rôle, mais un petit pourcentage en est incapable. La liberté de l'utilisateur est un principe fondamental, mais nous nous sentons également responsables de la manière dont nous introduisons de nouvelles technologies comportant de nouveaux risques. » a-t-il ajouté.

De nombreux utilisateurs de ChatGPT ont utilisé l'outil comme thérapeute ou coach de vie. Altman a précisé que ce n'était pas ce cas d'utilisation qui lui posait problème.

« Cela peut être vraiment bénéfique ! De nombreuses personnes en tirent déjà profit aujourd'hui », a-t-il noté.

Altman s'est dit préoccupé par les situations où les utilisateurs ont l'impression d'avoir une conversation avec ChatGPT, mais sont finalement détournés de leur bien-être à long terme.

Il a également noté que les utilisateurs font entièrement confiance aux conseils prodigués par ChatGPT pour « les décisions les plus importantes », ce qui le met mal à l'aise.

L'abandon par OpenAI de ses anciens modèles GPT et de raisonnement a récemment suscité un tollé sur les réseaux sociaux, notamment de la part des utilisateurs qui se plaignaient que le nouveau modèle donnait des réponses plus courtes et moins riches en émotions que les précédents.

OpenAI a finalement dû céder et restaurer le modèle GPT-4o pour les utilisateurs de ChatGPT Plus. Les utilisateurs gratuits, quant à eux, n'auront accès qu'à GPT-5.