ANFORM GUYANE N110

22 | anform ! ◆ septembre - octobre 2023| | santé ◆ Intelligence artificielle| poussées, mais c’est aujourd’hui possible avec ChatGPT », émet la jeune femme. « ChatGPT et l’IA sont là pour nous « augmenter ». Ils ne remplacent pas le médecin, mais lui permettent d’aller plus vite. Ce n’est pas une intelligence autonome. Elle fonctionne grâce à nous » , explique Sophie Lubin, responsable perfor- mance d’une DSI (Direction des Systèmes d’Information), à l’origine de l’association Maryse Project qui contribue à l’acculturation numérique des populations d’Outre-mer. ◆ Discerner le vrai du faux Si ChatGPT aide les médecins, en revanche, à la question de l’auto-diagnostic médical, Maëliza Seymour reprend fer- mement : « Je vous déconseille de poser des questions de santé à ChatGPT qui, comme toutes les IA génératives, est un excellent menteur. Leur objectif est de fournir une réponse qui a un sens grammatical, mais pas forcé- ment la vérité. » Elle va même plus loin : « Chercher de la vraie information via ChatGPT peut être très dangereux. » Le risque est de s’y fier sans interroger ce qui est énoncé. L’intelli- gence humaine est faite de sensibilité, dont les soignants usent quand ils émettent des diagnostics. Les concepteurs de ChatGPT, pour qu’il soit utilisé massivement et qu’on y croit, l’ont presque doté d’humani- té : « De rien ! Je suis heureux d’avoir pu vous aider. Prenez soin de votre fils et j’espère qu’il se rétablira bientôt. » D’ail- leurs, une étude faite par des chercheurs de La Jolla, à San Diego, publiée le 28 avril 2023, dans le JAMA Internal Medicine , montre que ChatGPT répond aux questions des patients avec plus d’empathie que les médecins. Maëliza explique cela par la théorie japonaise de la « vallée de l’étrange » , énon- cée en 1970 par le roboticien Masahiro Mori. Il s’agit d’une zone à franchir dans laquelle chaque progrès vers l’imitation humaine amène au départ plus de rejet, mais, passé un certain seuil de réalisme, une accepta- tion plus grande. « L’utilisateur n’est pas trompé, mais son cer- veau, oui. L’humain sait que c’est une machine, mais on donne l’impression qu’il y a un rythme humain de création (10 ca- ractères/seconde) pour faire accepter l’IA par le cerveau. » La machine ne dépassera a priori pas l’homme, car elle a besoin de lui pour fonctionner. Mais notre capacité de continuer à discerner le réel, y compris d’un état de santé, est, elle, sérieusement questionnée.