Incidents associés
Tout d'abord, je tiens à remercier toutes les personnes qui m'ont contacté pendant les fêtes pour me présenter leurs condoléances suite au décès de mon père. L'un des aspects les plus touchants de la rédaction de cette newsletter est de recevoir des messages de soutien de personnes que je n'ai jamais rencontrées, un lien qui s'est créé avec celles et ceux qui, sans mes écrits, seraient restés des inconnus. Je suis profondément reconnaissant de vos gentils mots ; ils m'ont été d'un grand réconfort dans cette épreuve.
Dans le même esprit, j'espère que vous me pardonnerez si je consacre encore une semaine à vous parler de mon père, car, comme vous le découvrirez bientôt, l'IA a joué un rôle étrange, à la fois dans le développement de notre relation et, peut-être, dans l'accélération de sa mort. Pour comprendre ce qui s'est passé, il me faudra partager avec vous quelques détails intimes sur qui il était et qui je suis, sur ses difficultés et celles que nous avons rencontrées, et sur la façon dont la rencontre de sa curiosité avec cette nouvelle technologie s'est révélée être l'un de mes plus grands défis de l'année écoulée.
Pour commencer : mon père était neuroscientifique de formation. Il a obtenu son doctorat en 1977 à l'Université de Floride, ce qui explique l'étrangeté de ma naissance à Gainesville, une ville que je n'ai jamais visitée (mes parents ont déménagé alors que je n'avais que quelques semaines). Après son post-doctorat en Californie du Sud, ma famille s'est installée à Long Island pour qu'il puisse rejoindre le tout nouveau département de neurologie de l'Université d'État de New York à Stony Brook en tant que professeur adjoint. Au cours des années suivantes, il a publié une cinquantaine d'articles de recherche, principalement sur les effets d'une consommation prolongée de drogues sur le cerveau.
Puis, vers 1983, un événement allait bouleverser l'avenir de ma famille. Pour des raisons qui demeurent encore mystérieuses, mon père a cessé de travailler et a passé le reste de sa vie en invalidité. Je n'avais que sept ans à l'époque, mais je me souviens que mon père était « malade » et qu'il consultait fréquemment des spécialistes à New York. Mais malade de quoi exactement, vous vous demandez peut-être, et je me le suis demandé aussi, toute ma vie. Car les médecins n'ont jamais réussi à identifier précisément ce qui n'allait pas chez lui, du moins physiquement. D'après des rapports médicaux que j'ai découverts il y a quelques semaines seulement, enfouis au fin fond du classeur de mon père, les examens neurologiques suggéraient qu'il possédait des capacités verbales exceptionnellement développées, mais qu'il éprouvait des difficultés avec des tâches logiques et de résolution de problèmes relativement simples, une « combinaison très inhabituelle », comme l'a dit un médecin. Certains de ses médecins ont émis l'hypothèse qu'il souffrait peut-être d'une forme d'encéphalite, une inflammation du cerveau, mais d'autres n'en ont trouvé aucune trace.
Quoi qu'il en soit, mon père n'a plus jamais travaillé. Comme vous pouvez l'imaginer, cela a été une source de stress considérable pour ma famille, d'autant plus que ma mère était bibliothécaire scolaire, un métier peu lucratif, bien sûr. Je me souviens avoir été choquée, et franchement très amère, lorsque j'ai réalisé au lycée que notre famille de cinq personnes (j'ai une sœur et un frère) vivait techniquement sous le seuil de pauvreté. Je détestais cette situation et je tenais mes parents, mon père en particulier, responsables des difficultés qui en découlaient. Plus tard, j'ai compris que grandir dans ces conditions m'avait permis de devenir autonome et indépendante, des qualités dont je suis aujourd'hui très fière. En effet, en côtoyant le monde des riches et des privilégiés et en réalisant à quel point tant de gens semblent détraqués lorsqu'ils vivent sans contraintes, j'ai même éprouvé de la gratitude. Mais entre mes 20 et 30 ans, disons que ma relation avec mon père était pour le moins tendue.
Bien que mon père ait été au chômage pendant presque toute sa vie adulte, il n'a jamais perdu sa curiosité intellectuelle et a ainsi développé un mélange éclectique d'intérêts pour stimuler son esprit. Parmi eux, l'assassinat de JFK ; il a rejoint la communauté des adeptes des théories du complot – mais nous vous raconterons cette histoire une autre fois. Un autre de ses centres d'intérêt constants était la technologie, domaine dans lequel il a fait preuve d'une remarquable clairvoyance.
Pour preuve : ma famille a été la toute première du quartier à posséder un « micro-ordinateur » à la maison, en l'occurrence un Commodore 64 (et plus tard un Amiga, pour lequel je crois que mon père avait une véritable affection). Il était aussi très actif sur ce qu'on appelait alors les « systèmes de babillard électronique » ou BBS, les ancêtres d'Internet, où l'on connectait son ordinateur à sa ligne téléphonique pour échanger des fichiers à une vitesse tellement lente qu'elle est inconcevable aujourd'hui. De plus, à l'époque, les compagnies de téléphone monopolistiques pratiquaient des tarifs exorbitants pour les appels longue distance, ce qui signifiait que certains utilisateurs de BBS, dont mon père, cherchaient des solutions de contournement en piratant les codes téléphoniques pour établir des connexions commutées gratuites. C'était illégal, bien sûr, et quand j'étais en quatrième, mon père a été arrêté et inculpé de plusieurs chefs d'accusation de vol par intrusion informatique – mais nous raconterons cette histoire une autre fois.
Ce que je veux dire, c'est que mon père s'est toujours intéressé au cerveau et à la technologie. Aussi, lorsque l'IA, sous la forme de grands modèles de langage, a fait son apparition, il a été absolument fasciné – et moi aussi. C'est pourquoi, lorsque j'ai entrepris de comprendre le fonctionnement de ces modèles, il m'a accompagné dans cette aventure intellectuelle. Malgré mes critiques envers cette nouvelle technologie, je serai toujours reconnaissant à mon père d'avoir eu, ces deux dernières années, de si riches conversations sur son fonctionnement. On peut dire que cela a contribué à apaiser nos tensions et à créer un nouveau lien entre nous, tandis que nous cherchions ensemble à comprendre les similitudes (ou les différences) entre ses processus et la cognition humaine. Cognitive Resonance existe en partie grâce à ces échanges, car j'ai réalisé que les recherches que mon père et moi menions ensemble pouvaient présenter un intérêt plus large pour le monde entier. (Une hypothèse que je suis encore en train de tester.)
C'est pourquoi il est si étrange et tragique que l'IA ait joué un rôle non négligeable dans la crise sanitaire qui a entraîné la mort de mon père.
Comme je vous l'ai déjà dit précédemment, il y a environ 18 mois, mon père a reçu un diagnostic de cancer du poumon, d'insuffisance rénale et de leucémie lymphoïde chronique (LLC). Dès l'annonce du diagnostic, il a rapidement entrepris un traitement contre le cancer du poumon par radiothérapie et, après quelques faux départs, a finalement réussi à soigner ses reins. Mais la LLC, c'est une histoire plus complexe, et c'est là que son utilisation de l'IA a probablement accéléré la dégradation de son état de santé et amplifié ses souffrances.
Voici ce qui s'est passé : peu après le diagnostic de LLC, l'oncologue de mon père lui a recommandé un traitement par « Vénétoclax-Obinutuzumab » (Ven-Obi), une approche relativement nouvelle pour traiter la LLC, qui s'est avérée remarquablement efficace pour prolonger l'espérance de vie des patients tout en réduisant leurs souffrances physiques. Je n'étais cependant pas au courant de cette recommandation, car mon père ne nous en avait pas parlé, ni à mes frères et sœurs. Au lieu de cela, il était persuadé de souffrir de la transformation de Richter, une complication rare et particulièrement douloureuse de la LLC. Il n'y avait aucune preuve médicale de ce phénomène, mais mon père en était convaincu et pensait, par conséquent, qu'il devait renoncer au traitement par Ven-Obi, car cela ne ferait qu'empirer les choses.
Et mon père y croyait parce que c'est ce que lui suggérait l'IA Perplexity.
Comme vous pouvez l'imaginer, ce fut un choc lorsque j'ai découvert la vérité. Je n'ai découvert la vérité que lorsque mon père m'a donné accès à son dossier médical en ligne, me permettant ainsi de consulter sa longue correspondance avec son oncologue. J'ai alors appris qu'il avait utilisé Perplexity pour établir un autodiagnostic et qu'il avait envoyé le rapport Perplexity, si l'on peut dire, à son médecin, qui était extrêmement perplexe et frustré. Ayant passé près d'un an à discuter avec mon père du manque de fiabilité des affirmations factuelles produites par l'IA, vous imaginez bien ma frustration en découvrant que mes efforts avaient été vains au sein même de ma famille.
Les passionnés d'IA, que ce soit dans le domaine de l'éducation ou plus largement, tentent souvent de se dédouaner de toute responsabilité quant aux affirmations erronées des modèles d'IA en disant : « Il faut toujours vérifier leurs résultats. » En règle générale, c'est un argument absurde, puisque l'intérêt principal de ces outils est de nous épargner un effort cognitif ; mais dans ce cas précis, c'est exactement ce que j'ai fait. J'ai contacté les médecins ayant mené l'étude citée par Perplexity pour étayer son affirmation selon laquelle s'abstenir de suivre le traitement Ven-Obi était la conduite à tenir appropriée pour une personne atteinte du syndrome de Richter. À ma grande surprise, les deux médecins m'ont répondu immédiatement et ont confirmé ce que je savais déjà : Perplexity avait mal interprété les conclusions de ses recherches et mon père devait suivre le traitement recommandé par son oncologue.
Bien sûr, j'ai aussitôt transmis ces informations à mon père, espérant désespérément faire appel à son esprit scientifique et pragmatique. Mais il n'a pas réagi. C'était comme parler dans le vide. Ce n'est que plusieurs mois plus tard, alors que son état de santé continuait de se détériorer considérablement, qu'il a finalement accepté de commencer le traitement Ven-Obi que son oncologue lui avait recommandé un an auparavant. Malheureusement, cela n'a plus semblé avoir d'importance. Bien que le traitement ait immédiatement fait baisser son taux de globules blancs, ses douleurs ont persisté et ont finalement entraîné son décès il y a quelques semaines.
Je suis encore en pleine réflexion sur tout cela, et je ne veux pas exagérer. Je ne crois pas que l'IA ait tué mon père. Je pense qu'il est possible, voire probable, que dans un monde sans IA, il se serait tout de même appuyé sur d'autres recherches pour justifier son refus des traitements médicaux, car il nourrissait de profondes appréhensions – une véritable peur – à l'idée de passer du temps à l'hôpital. Néanmoins, il n'en reste pas moins que l'IA existe bel et bien, et tout comme elle peut alimenter les troubles bipolaires, elle peut aussi confirmer ou amplifier notre compréhension erronée de ce qui nous arrive physiquement et médicalement. (OpenAI affirme limiter l'utilisation de ChatGPT à la fourniture de conseils médicaux « personnalisés » nécessitant une licence, mais le responsable de son équipe de recherche médicale maintient « cela restera une ressource précieuse pour aider les gens à comprendre les informations juridiques et médicales » – bien sûr, si vous le dites.)
Au fil de mes discussions sur l'IA avec mon père, je suis presque certain qu'il est devenu plus sceptique à son égard. Vers la fin de sa vie, il a commencé à m'envoyer des articles et des vidéos YouTube sur les limites de ces outils. Je me demanderai toujours si mes efforts sont arrivés trop tard et s'il serait encore parmi nous si j'avais été plus efficace pour contrer le ton autoritaire que l'IA adopte lorsqu'elle génère ses jetons. Je ne peux évidemment rien faire pour changer le passé. Mais je peux assurément continuer à œuvrer pour sensibiliser les autres.
Un feu a été allumé, même si mon cœur souffre encore.