L’intelligence artificielle (IA) est de plus en plus intégrée dans le domaine médical, promettant d’assister les professionnels dans leurs diagnostics et de révolutionner les soins.
Cependant, des études récentes ont soulevé des inquiétudes quant à la fiabilité des chatbots médicaux, certains présentant des signes de “démence” virtuelle. Cette révélation pose la question de savoir si l’IA est vraiment prête à jouer un rôle crucial dans la santé ou si elle représente un risque pour les patients.
Une promesse technologique confrontée à des limites inattendues
L’utilisation de l’IA dans le domaine médical repose sur sa capacité à analyser des données complexes et à fournir des réponses pertinentes. Cependant, une étude publiée dans The BMJ a mis en évidence des troubles cognitifs chez plusieurs chatbots de pointe, y compris GPT-4 d’OpenAI et Gemini de Google.
Ces IA, testées à l’aide du MoCA, un outil utilisé pour détecter les premiers signes de démence, ont obtenu des résultats variables. Bien que certains modèles, comme GPT-4o, aient atteint un score proche de la normale, d’autres, comme Gemini, ont échoué de manière significative sur des tâches basiques.
Ces résultats soulignent que, malgré leurs capacités impressionnantes, les IA ne sont pas infaillibles et peuvent produire des erreurs critiques, surtout dans un contexte médical où la précision est essentielle.
Les limites fonctionnelles des chatbots en médecine
L’une des principales faiblesses identifiées chez ces IA est leur incapacité à exécuter certaines tâches spécifiques. Par exemple, tracer une ligne entre des nombres ou dessiner une horloge se sont révélés être des défis insurmontables pour ces technologies.
De plus, l’absence totale d’empathie constitue un handicap majeur pour leur utilisation dans un cadre clinique, où l’interaction humaine joue un rôle crucial. Ces déficiences, comparées aux symptômes de la démence fronto-temporale, soulèvent des préoccupations quant à la pertinence d’intégrer ces systèmes dans des décisions médicales complexes.
Bien que ces IA puissent exceller dans des tâches analytiques, leur manque de fiabilité et d’humanité pourrait avoir des conséquences graves si elles sont utilisées sans supervision humaine stricte.
L’importance d’une approche critique face à l’IA médicale
Bien que l’étude ait adopté une approche anthropomorphique pour évaluer les performances des chatbots, les chercheurs reconnaissent les différences fondamentales entre un cerveau humain et un modèle d’IA. Cependant, les entreprises qui développent ces technologies visent souvent à reproduire, voire à surpasser, les capacités humaines, justifiant ainsi l’application de tests cognitifs humains à ces systèmes.
Ces découvertes soulignent l’urgence de réguler et d’encadrer l’utilisation de l’IA dans le domaine médical, afin d’éviter des scénarios où des outils technologiques non fiables pourraient compromettre la santé des patients.
