Incidents associés
Alors que l'intelligence artificielle évolue rapidement, distinguer le vrai du faux en ligne devient de plus en plus difficile.
Au départ, les deepfakes ont suscité des inquiétudes quant à la désinformation et aux intentions malveillantes. Parallèlement, le potentiel de l'IA à remplacer des emplois est devenu une préoccupation croissante dans divers secteurs. Aujourd'hui, l'IA assume des rôles encore plus inquiétants, notamment celui de se faire passer pour des médecins en ligne. La question urgente est : pourquoi ?
En cherchant « coochie doctor » sur TikTok – un terme d'argot ludique pour désigner un gynécologue – vous tomberez sur de nombreuses vidéos offrant des conseils étranges et parfois douteux, prodigués par des robots IA se faisant passer pour des médecins.
Un clip vidéo (https://www.tiktok.com/@locks_health/video/7471951951463206190), visionné près de trois millions de fois, suggérait de consommer des salades ananas-concombre pour la santé intestinale et comparait la mélisse à Ozempic.
Étonnamment, des milliers de spectateurs ont adhéré à l'idée et ont inondé le clip de 36 000 commentaires demandant des recettes et où les acheter.
« De la mélisse, s'il vous plaît. Je ne trouve pas votre espace bien-être. J'aimerais en savoir plus ! Merci ! », a écrit l'un d'eux, tandis qu'un autre plaisantait : « Il faut que j'achète la newsletter pour avoir la bonne recette de mélisse ? »
Pendant ce temps, le TikTokeur Javon Ford Beauty (@javonford16) a attiré l'attention sur cette collection de clips, révélant l'application d'IA utilisée par ces créateurs pour tromper les TikTokeurs parfaitement inconscients.
En réponse à @ladolcedana #hillmantok #éducation #soinsdelapeau #soinsdescheveux
Il a affirmé que ce « médecin effrayant » provenait d'une application « profondément insidieuse » appelée Captions, qui permet aux utilisateurs de choisir des avatars IA.
En parcourant l'application pour explorer les avatars, il est tombé sur Violet, la même femme qui se fait passer pour un médecin dans de nombreuses vidéos. Il a alors saisi un script et, à sa grande surprise, l'IA a prononcé un discours convaincant.
Il n'a pas fallu longtemps pour que des TikTokeurs choqués réagissent : l'un d'eux écrit : « VICTOR EST UN FAUX ?! »
Un autre ajoute : « Je déteste absolument ces publications si les gens ne peuvent pas deviner qu'il s'agit d'une IA en voyant ce qu'elle dit, nous sommes condamnés. »
Un troisième écrivait : « C'est vraiment effrayant ! Maintenant que vous le soulignez, je vois clair, mais sans l'avertissement, j'aurais pu me faire avoir ! »