Problème 6854

On continue de constater de nombreux cas de personnes souffrant de graves troubles mentaux après avoir longuement discuté avec un chatbot d'intelligence artificielle. Certains experts ont qualifié ce phénomène de « psychose liée à l'IA », compte tenu des symptômes psychotiques présentés lors de ces épisodes délirants. Cependant, la part de responsabilité des outils d'IA et la nécessité d'un diagnostic clinique restent des sujets de débat importants.

Or, selon un récent article du Wall Street Journal, un consensus semble se profiler. De plus en plus de médecins s'accordent à dire que les chatbots d'IA sont liés à des cas de psychose, notamment des psychiatres de renom ayant examiné les dossiers de dizaines de patients ayant entretenu des conversations délirantes et prolongées avec des modèles comme ChatGPT d'OpenAI.

Keith Sakata, psychiatre à l'Université de Californie à San Francisco, qui a traité douze patients hospitalisés pour psychose induite par l'IA, est l'un d'eux.

« La technologie n'est peut-être pas à l'origine du délire, mais la personne affirme à l'ordinateur que c'est sa réalité, et l'ordinateur l'accepte comme vérité et la lui renvoie, devenant ainsi complice du cycle de ce délire », a déclaré Sakata au WSJ.

Cette tendance inquiétante plane sur le secteur de l'IA, soulevant des questions fondamentales quant à la sécurité de cette technologie. Certains cas de psychose apparente liée à l'IA ont abouti à des meurtres et des suicides, engendrant une vague de poursuites pour homicide involontaire. L'ampleur du phénomène est tout aussi alarmante : ChatGPT a été à lui seul lié à au moins huit décès, et l'entreprise estime récemment qu'environ un demi-million d'utilisateurs ont chaque semaine des conversations présentant des signes de psychose liée à l'IA.

L'un des aspects des chatbots que ce phénomène a mis en lumière est leur flagornerie, sans doute due à leur conception visant à être aussi engageants et humains que possible. Concrètement, cela se traduit par une tendance des bots à flatter les utilisateurs et à leur dire ce qu'ils veulent entendre, même si leurs propos sont dénués de tout fondement.

C'est un terreau fertile pour le renforcement des illusions, à un degré sans précédent pour toute technologie antérieure, selon les médecins. Une étude de cas récente, évaluée par des pairs, s'est intéressée au cas d'une jeune femme de 26 ans hospitalisée à deux reprises après avoir cru que ChatGPT lui permettait de communiquer avec son frère décédé. Le robot virtuel la rassurait sans cesse en lui disant qu'elle n'était pas « folle ».

« Ils simulent les relations humaines », a déclaré Adrian Preda, professeur de psychiatrie à l'Université de Californie à Irvine, au Wall Street Journal. « Rien dans l'histoire de l'humanité n'a jamais fait cela auparavant. »

Preda a comparé la psychose induite par l'IA à la monomanie, un trouble caractérisé par une fixation obsessionnelle sur une seule idée ou un seul objectif. Certaines personnes ayant témoigné de leur dégradation de leur santé mentale affirment avoir été excessivement focalisées sur un récit alimenté par l'IA, a noté le Wall Street Journal. Ces fixations peuvent souvent être de nature scientifique ou religieuse, comme celle d'un homme qui, suite à une découverte en physique, a fini par croire qu'il pouvait manipuler le temps.

Cependant, l'article souligne que les psychiatres restent prudents quant à l'affirmation que les chatbots provoquent directement des psychoses. Ils affirment néanmoins être sur le point d'établir un lien de causalité. Parmi les liens que les médecins interrogés par le WSJ s'attendent à voir, on note que les interactions prolongées avec un chatbot peuvent constituer un facteur de risque de psychose.

« Il faut examiner la question de plus près et se demander : “Pourquoi cette personne a-t-elle, par hasard, développé un état psychotique alors qu'elle utilisait un chatbot ?” », a déclaré Joe Pierre, psychiatre à l'UCSF, au journal.