ChatGPT, BARD : nouveaux avatars de novlangue numérique ou irruption de l’intelligence artificielle au bénéfice de la santé des gens ?
On fantasme beaucoup sur l’intelligence artificielle (IA) en médecine, évoquant une révolution majeure et pour preuve, on prend l’exemple des éventuelles conséquences en matière de santé et de prise en charge des patients. C’est l’IA qui va ainsi diriger la main du médecin. Ne voit-on pas déjà dans certaines compagnies d’assurance aux États-Unis des sorties d’hospitalisation, décidées par des IA ? De fait, les fantasmes n’ont pas toujours tort. Francis Carrier, informaticien de profession, a voulu tester ce nouveau langage artificiel – CHatGPT3 – en lui posant des questions. Nous avons lu attentivement les réponses, et demandé à François Aubart, chirurgien orthopédiste, longtemps chef de service à l’hôpital Simone Veil d’Eaubonne et, par ailleurs, promoteur de robots chirurgicaux en France, de réagir. Puis à tous les deux, de donner leur sentiment. Échanges croisés.
Francis Carrier : Peux-tu me faire un panorama de l’utilisation de l’intelligence artificielle en médecine ?
Chat GPT : L’intelligence artificielle (IA) est de plus en plus utilisée dans le domaine de la médecine pour améliorer les soins de santé et la recherche médicale. Voici un panorama de son utilisation actuelle et de ses perspectives dans ce domaine :
– Diagnostic médical. L’IA peut aider les médecins à diagnostiquer les maladies en analysant les données médicales des patients, telles que les résultats de tests sanguins, les scans médicaux et les antécédents médicaux.
– Détection précoce de maladies. L’IA peut être utilisée pour identifier les signes précoces de maladies, telles que le cancer, le diabète et les maladies cardiaques, ce qui permet un traitement plus précoce et plus efficace.
– Développement de médicaments. L’IA peut aider les chercheurs à développer de nouveaux médicaments en analysant les données génétiques et les résultats des essais cliniques.
– Surveillance des patients. L’IA peut être utilisée pour surveiller en temps réel les patients hospitalisés ou à domicile, en alertant les médecins en cas de changements significatifs dans leur état de santé.
C’est beaucoup mais c’est tout
François Aubart : Oui, ChatGPT et l’IA sont appuyés sur la puissance numérique d’analyse du big data et une sémantique solide. Mais cette liste à la Prévert est trompeuse. Elle donne une apparence d’intelligence. Dans les faits, « l’intelligence » s’y réduit pour beaucoup à une capacité d’acquisition et de regard sur une masse de datas scientifiques hétérogènes. Quelques applications métiers développent alors des arbres de décisions et des outils de hiérarchisation… C’est tout. C’est beaucoup mais c’est tout. En particulier il est prématuré, me semble-t- il, de qualifier le potentiel effet, à ce stade, sur « la qualité sur l’amélioration des soins ».
Ce qui me semble plus troublant, c’est l’impact que pourraient avoir ces programmes sur les prises de décisions professionnelles alors même que les outils sont encore imparfaits. En médecine, on peut évaluer à 80% environ les situations médicales qui relèvent de « protocoles » labellisés par la Haute autorité de santé (HAS). Dans 20% des situations, la singularité du « cas » peut justifier de déroger au « protocole » pour adopter une « prescription » médicale, alors individuelle et personnelle. Pour illustrer cette transgression parfois indispensable des protocoles, on peut de façon caricaturale rappeler le choix du pilote d’un avion en détresse qui a privilégié l’atterrissage dans l’Hudson transgressant alors le protocole qui le détournait vers un lieu supposé plus adapté.
L’IA risque d’accentuer la capacité autoritaire du système de décider en fonction d’un profilage minorant les spécificités.
F. C. : Quelles sont les perspectives de l’IA en médecine ?
ChatGPT : La médecine personnalisée. L’IA peut aider les médecins à développer des traitements personnalisés en analysant les données médicales et génétiques des patients, permettant ainsi une meilleure adaptation des traitements à chaque patient.
Le rêve se heurte à la réalité
F. A. : Soyons terre à terre, la médecine personnalisée est une sorte de rêve rendu possible dans certaines pathologies, notamment cancéreuses : les progrès de la connaissance génétique en fondent pour beaucoup l’opportunité. Mais le rêve s’est heurté et se heurte à la réalité de la complexité. À titre d’exemple, après avoir mis en évidence que certains cancers (du sein par exemple) étaient en lien avec des facteurs génétiques, on s’est aperçu que les thérapeutiques qui découlaient de ce constat n’étaient efficaces que dans un nombre limité de cas.
ChatGPT : Prédiction des maladies. L’IA peut être utilisée pour prédire les maladies avant qu’elles ne se développent, en analysant les données médicales et génétiques des patients.
Moult sujets éthiques et médicaux
F. A. : Ce « profilage » soulève moultes autres sujets, éthiques et médicaux. Par exemple : quid de la découverte par la prédiction/dépistage de tumeurs qui ne se développeront pas spontanément ? Quid des prédictions sur des pathologies où la médecine ne peut rien ?
ChatGPT : Chirurgie assistée par robot. L’IA peut aider les chirurgiens à effectuer des opérations plus précises en temps réel, en fournissant des informations en temps réel sur la procédure et en ajustant les mouvements du robot chirurgical en conséquence.
Deux types de robots
F. A. : Il existe deux types de « robots chirurgicaux ». Le premier est en fait la substitution de la main chirurgicale tenant l’outil par un joystick télémanipulé par le chirurgien à distance. Le deuxième type de « robot » est lui décliné directement de l’industrie : un programme informatique préopératoire croise les données d’imagerie du patient et le planning opératoire souhaité. Il guide automatiquement l’outil chirurgical qui est une copie d’un robot industriel. Dans les deux cas ce sont beaucoup plus la puissance numérique et les micro-technologies que « l’intelligence » artificielle qui sont utilisés.
ChatGPT : Réduction des coûts de soins de santé. L’IA peut aider à réduire les coûts de soins de santé en automatisant certaines tâches, en améliorant l’efficacité des traitements et en réduisant les erreurs médicales.
En somme, l’IA offre des perspectives intéressantes pour améliorer la qualité des soins de santé et la recherche médicale, mais il est important de veiller à ce que son utilisation reste éthique et respecte la confidentialité et la sécurité des données des patients.
F. C. : Les services des urgences ont aujourd’hui beaucoup de difficultés à travailler efficacement. Que pourrait apporter les IA dans ce secteur ?
ChatGPT : Les technologies de l’intelligence artificielle ont le potentiel d’apporter des améliorations significatives aux services d’urgence en aidant les professionnels de la santé à travailler plus efficacement et à fournir des soins de meilleure qualité aux patients. Voici quelques exemples de l’application de l’IA dans ce domaine :
Détection rapide des symptômes. Les systèmes d’IA peuvent aider les professionnels de la santé à détecter rapidement les symptômes et les signes vitaux des patients. Par exemple, des algorithmes peuvent être développés pour détecter les symptômes de maladies courantes telles que la grippe, la pneumonie ou la septicémie.
Pas acceptable
F. A. : On en revient au sujet des 80% des situations protocolisables et aux 20% relevant de choix individualisés. L’automatisation de la décision médicale ne me semble pas acceptable.
ChatGPT : Optimisation des ressources. Les systèmes d’IA peuvent aider à optimiser l’utilisation des ressources des services d’urgence. Par exemple, des algorithmes peuvent être utilisés pour déterminer les niveaux de personnel nécessaires à chaque moment de la journée ou pour identifier les équipements médicaux qui doivent être stockés en fonction des antécédents médicaux des patients.
L’IA comme pensée, raison…
F. A. : Le sujet des algorithmes comme fondement du système justifierait une discussion sur la nature de l’intelligence comme pensée, raison… et sa structuration artificielle réduite dans une architecture 3D de silicium. Les réflexions sur ce sujet par les sachants mettent en perspective l’archéo-génétique ; la physique quantique, l’astrophysique… Elles rendent très modeste !
ChatGPT : Assistance à la prise de décision. Les systèmes d’IA peuvent également aider les professionnels de la santé à prendre des décisions éclairées en temps réel. Par exemple, des algorithmes peuvent être utilisés pour aider les médecins à déterminer la meilleure façon de traiter les patients en fonction de leur historique médical et des symptômes qu’ils présentent.
Outil numérique vs IA
F. A. : Il s’agit, là encore, plus d’un outil numérique que de l’IA ; beaucoup de systèmes sont développés. Sont-ils suffisamment utilisés ?
ChatGPT : Surveillance des patients. Les systèmes d’IA peuvent être utilisés pour surveiller en temps réel l’état de santé des patients à distance. Par exemple, des capteurs portables peuvent être utilisés pour surveiller la fréquence cardiaque, la température corporelle et d’autres signes vitaux des patients, qui sont ensuite analysés par des algorithmes pour détecter les signes de complications potentielles.
Risque d’utilisations malveillantes
F. A. : L’IA dispose au quotidien de développements comme la reconnaissance faciale et la reconnaissance vocale digitale. Croisés avec la production exponentielle des données de e-santé, le risque d’utilisations malveillantes ou de manipulations préjudiciables devient réalité.
Des soins plus rapides, plus efficaces et plus précis
ChatGPT
ChatGPT : En utilisant ces technologies, les services d’urgence peuvent être en mesure de fournir des soins plus rapides, plus efficaces et plus précis aux patients qui en ont besoin. Cependant, il est important de noter que l’utilisation de l’IA dans les services d’urgences doit être accompagnée d’une formation et d’une éducation adéquates des professionnels de la santé afin de garantir que les systèmes d’IA seront utilisés de manière responsable et éthique.
F. C. : Penses-tu que dans l’avenir l’accueil, l’interrogation des malades, le diagnostic et l’orientation du malade vers un service hospitalier pourrait être totalement pris en charge par une IA ?
ChatGPT : Il est possible que dans l’avenir, l’accueil, l’interrogation des malades, le diagnostic et l’orientation du malade vers un service hospitalier puissent être pris en charge en partie ou en totalité par des systèmes d’IA. Cependant, il est important de noter que le diagnostic et le traitement des patients impliquent souvent des facteurs complexes qui ne peuvent être entièrement pris en compte par les algorithmes d’IA.
Par exemple, les maladies peuvent se présenter de différentes manières et les symptômes peuvent varier d’un patient à l’autre, ce qui peut rendre difficile la mise en place d’algorithmes précis pour les diagnostiquer. De plus, le traitement des patients peut impliquer des considérations éthiques, psychologiques et sociales qui ne peuvent être entièrement évaluées par des systèmes d’IA.
Cela étant dit, il est possible que des systèmes d’IA puissent être développés pour aider les professionnels de la santé à poser un diagnostic précis et à recommander des traitements efficaces en fonction des symptômes et des antécédents médicaux des patients. Les systèmes d’IA peuvent également aider à orienter les patients vers les services hospitaliers les plus appropriés en fonction de leur état de santé.
Cependant, il est important que ces systèmes soient développés et utilisés avec prudence et éthique, en garantissant que les décisions finales en matière de diagnostic et de traitement soient prises par des professionnels de la santé qualifiés et expérimentés, et en prenant en compte les considérations éthiques et psychologiques importantes pour les patients.
Je n’ai pas la capacité de prendre des décisions éthiques complexes
ChatGPT
F. C. : Pourrais-tu prendre des décisions de traitement en prenant en compte que les ressources à disposition sont limitées et que l’on doit choisir les personnes qui auront accès à un traitement ?
ChatGPT : En tant qu’IA, je n’ai pas la capacité de prendre des décisions éthiques complexes. La prise de décision en matière de traitement et de ressources médicales est un processus complexe qui doit être guidé par des principes éthiques et une compréhension approfondie des besoins et des intérêts des patients.
Cependant, des systèmes d’IA peuvent être utilisés pour aider à optimiser l’utilisation des ressources médicales limitées. Par exemple, des algorithmes peuvent être développés pour aider à identifier les patients qui ont besoin de soins médicaux urgents ou qui ont le plus de chances de bénéficier d’un traitement spécifique. Ces systèmes peuvent aider les professionnels de la santé à prendre des décisions éclairées en matière d’allocation des ressources et à optimiser l’utilisation des ressources disponibles pour fournir des soins de qualité à un plus grand nombre de patients.
Il est important que ces systèmes soient développés et utilisés avec une attention particulière aux considérations éthiques, y compris l’équité dans la distribution des ressources et l’inclusion de perspectives diverses dans le processus de prise de décision. Les professionnels de la santé doivent également continuer à jouer un rôle central dans la prise de décisions en matière de traitement et d’allocation des ressources, en garantissant que les décisions sont prises en tenant compte des besoins individuels des patients et dans le respect des principes éthiques.
F. C. : Quelle est ton opinion concernant la fin de vie et le débat sur l’euthanasie et le suicide assisté ? Faut-il changer la loi actuelle ?
ChatGPT : En tant qu’IA, je ne peux pas avoir d’opinion personnelle sur la fin de vie, l’euthanasie et le suicide assisté. Cependant, je peux dire que c’est un sujet complexe et controversé qui soulève des questions importantes en matière de droit à la vie privée, d’autonomie, de responsabilité médicale et de justice sociale.
La question de savoir si la loi actuelle doit être modifiée est un sujet de débat continu dans de nombreux pays. Certains soutiennent que les patients devraient avoir le droit de choisir de mettre fin à leur vie si leur état de santé est insupportable et que les traitements ne sont plus efficaces. D’autres estiment que l’euthanasie et le suicide assisté sont moralement et éthiquement inacceptables, et que la protection de la vie humaine doit être la priorité.
Quelle que soit la position prise sur ce sujet, il est important que les lois et les politiques concernant la fin de vie soient basées sur des preuves solides et sur une compréhension approfondie des implications éthiques, sociales et médicales. Les professionnels de la santé et les décideurs politiques doivent travailler ensemble pour garantir que les patients reçoivent les meilleurs soins possibles, y compris les soins palliatifs pour soulager la douleur et améliorer la qualité de vie, et pour respecter les choix des patients dans les limites des considérations éthiques et légales.
Ce qu’ils en pensent
« Le champ de la santé est particulièrement vulnérable »
« L’ambition de l’intelligence artificielle (IA) n’est rien moins que de la création technologique de processus cognitifs comparables à ceux de l’être humain !
Avec cet objectif de façonner et reproduire l’intelligence humaine. Avec la croissance exponentielle de la technologie numérique, il n’est pas étonnant que le sujet suscite depuis soixante-dix ans, fantasmes, angoisses, espoirs et doutes.
Pendant des décennies, la potentielle toute puissance de l’IA a balancé entre espoir et désillusion. Récemment, l’IA a remporté un premier set après avoir acquis une capacité d’accès et de traitement quasi universel des bases de données (big data). Le deuxième set a suivi quand l’IA a bénéficié de microprocesseurs surpuissants dans une décroissance majeure des prix. Vinrent les algorithmes nouveaux, la reconnaissance vocale et faciale, des applications multiples et surtout la capacité apprentissage automatique aboutissant, en cette année 2023, à l’ouverture de l’IA au cyber monde via notamment les programmes de ChatGPT ou BARD. En disposant d’un champ sémantique et lexical de grande qualité, l’IA offre alors une apparence interface de véracité et de pertinence qui interroge. Et maintenant, et demain ! Jean Gabriel Ganascia dans Le mythe de la singularité (Points 2017) souligne la capacité d’apprentissage automatique. « Les ordinateurs se reprogrammant d’eux-mêmes sans qu’aucun être humain n’ait ni rédigé, ni relu, ni à fortiori vérifié les programmes qui les animent…. Même si certains avaient tenté de le faire cela aurait été en vain car personne ne disposerait des facultés suffisantes pour exploiter de telles quantités dans leur intégralité. En cela, sans aucun doute, ces machines dépassent nos capacités. »
Dans son rapport parlementaire de 2018, Cédric Villani cible cinq domaines d’intérêt particulier à l’IA : l’éducation, la santé, l’agriculture le transport et enfin la défense-sécurité. Dans ces domaines, l’homme établit et/ou subit avec la machine numérique des collaborations et des rapports nouveaux. Ils ouvrent entre biologie et numérique les questionnements de science-fiction, de transhumanisme et autres cyborgs.
Plus immédiatement, le champ de la santé est particulièrement vulnérable. Travailler sur la santé c’est travailler sur la nature et la relation humaine. L’IA apporte d’évidence de grands progrès visibles et en devenir. Mais les risques sont majeurs et déjà perceptibles. Éthique, inégalités accrues en sont des exemples. Cela concerne bien sûr les patients et les professionnels de santé, mais pas seulement. Les chercheurs, ingénieurs et entrepreneurs qui interviennent dans le champ de l’intelligence artificielle sont et seront donc amenés à jouer un rôle décisif. Or ils ont reçu un enseignement où ces aspects sont quasiment absents, notamment lors de leur formation. » François Aubart
« Cette technologie est révolutionnaire »
« Les réponses que j’ai reçues en interrogeant ChatGPT4 ne m’ont pas satisfait. La sensation de lieux communs, de réponses d’une prudence extrême n’est pas à la hauteur de ce que j’imaginais. Mais je reste très prudent suite à cet exercice.
Nous sommes à un moment d’émergence d’une nouvelle technologie, et les premiers essais d’IA ont fait l’objet de débordements condamnés unanimement : propos racistes, chantage, insultes…
Suite à ces dysfonctionnements, les créateurs de ces IA ont mis en place des contraintes et des barrières pour empêcher tout dérapage, et rendre ainsi plus lisses les réponses faites par ces programmes d’intelligence artificielle.
Reste que je pense que cette technologie est révolutionnaire.
Sans être un spécialiste de ce sujet, il suffit d’analyser la place de l’informatique dans notre société pour comprendre que nous arrivons à un seuil par rapport à deux aspects :
– La puissance des machines en termes de calcul, les prochaines générations d’ordinateurs quantiques permettant d’accéder à un niveau de calcul jamais atteint jusqu’à aujourd’hui ;
– Le big data et l’accès à une connaissance universelle par le biais d’internet. Depuis l’époque des encyclopédistes, le monde des sciences était fragmenté par spécialités. Un individu n’avait plus la possibilité d’avoir l’accès à une connaissance globale, aujourd’hui, les machines le peuvent par le biais d’internet. Ces deux aspects sont en eux-mêmes porteurs de transformations difficilement envisageables dans nos sociétés occidentales.
L’impact des machines et des algorithmes dans nos vies vont être de plus en plus acceptés et même réclamés par les citoyens.
Les machines deviendront nos meilleurs ami-e-s, elles connaîtront tous nos secrets et seront toujours présentes, quelles que soient nos sollicitations. La solitude ressentie par les individus de tout âge sera le meilleur carburant pour intégrer dans nos vies ces compagnons rassurants, aimants et corvéables à merci.
Notre IA personnelle, (assistant, coach santé, compagnon) dialoguera avec les IA spécialisées pour répondre immédiatement à toutes nos questions d’ordre médical.
Ainsi l’appel à l’IA pour la prévention, le diagnostic et les conseils en termes de traitement n’est qu’une question de temps ; un temps qui me semble proche. » Francis Carrier
François Aubart et Francis Carrier