Réponses aux questions les plus fréquentes sur l’IA

Quelles sont les questions, réactions les plus fréquentes des professionnels de santé quand on évoque l’IA ?

• La question de la « boîte noire » de l’IA

  Evidemment quand on parle d’IA en santé il y a plusieurs questions qui viennent immédiatement. La plus fréquente concerne le problème dit de la « boîte noire » (« black box ») de l’IA.

  Bien souvent dans les études et travaux publiés, un algorithme informatique donne un très bon résultat, mais n’indique pas la raison pour laquelle la prédiction est exacte. Il nous manque ce que l’on appelle l’interprétabilité de la décision rendue par le système, et c’est un vrai problème en médecine contrairement aux autres domaines d’application de l’IA.

  En effet en médecine, on a besoin de comprendre les choses pour prendre des décisions, l’interprétabilité est donc majeure. Des méthodologies ont donc été développées dans l’analyse d’images (en imagerie médicale au sens large, en anatomo-pathologie, …), permettant de comprendre pourquoi l’IA a fait tel ou tel diagnostic. Sans entrer dans les détails techniques, globalement on peut programmer l’IA pour que, non seulement elle vous donne la bonne réponse, mais qu’en plus elle vous dise : « voilà je pense qu’il y a un cancer du poumon parce qu’il y a telle image sur telle coupe du scanner et je vais vous la montrer ». Elle va vous montrer en détails les caractéristiques suspectes de l’image afin de vous faire comprendre pourquoi l’IA fait ce rendu. Cela concerne la tâche d’interprétation d’images.

  C’est un peu plus complexe pour les tâches de prédiction, celles que les humains ne savent pas faire ou pas bien faire. Dans ce cas aussi des méthodologies d’interprétabilité existent. L’IA va vous dire : « Comme le patient a telle et telle caractéristiques, sachez que ces caractéristiques l’exposent à un risque augmenté de telle maladie » et vous allez avoir le détail de chacune des caractéristiques qui expliquent la prédiction de l’IA.

  Ce que l’on peut retenir, y compris à l’heure actuelle, est que le problème dit de la boîte noire de l’IA n’en est plus vraiment un, car des techniques pour le résoudre ont été trouvées. Ainsi, les logiciels médicaux et les dispositifs médicaux qui reposeront sur l’IA et seront commercialisés dans les années à venir, vont probablement tous intégrer des modules d’interprétabilité pour guider la décision médicale.

• La deuxième question fréquente concernant l’IA en médecine est : « Des spécialités vont-elles disparaître à cause de l’IA ? »

  Si on se projette à 50 ans, c’est très difficile à dire.

  Il n’est pas impossible que certaines spécialités soient tellement bouleversées par l’IA qu’elles disparaissent, notamment l’anatomo-pathologie tout du moins certaines parties de l’anatomo-pathologie. Je pense que certaines choses ne seront plus faites que par de l’IA, ce sera sans doute le cas pour une partie de la radiologie aussi. Vraisemblablement, certaines parties de la radiothérapie, ma spécialité, seront aussi quasi intégralement faites par de l’IA, j’ai en tête notamment le contourage automatique de nos scanners de traitement et puis la dosimétrie qui deviendra automatisée d’ici 10-15 ans au maximum, peut-être moins.

• Le « stéthoscope du 21ème siècle »

  Donc oui, l’IA va impacter certaines spécialités. Mais il faut bien réaliser que le contrôle et les normes de nos tutelles sont tels qu’à aucun moment ce remplacement ou ce changement ne va mettre en péril le pronostic des patients. Au contraire, tout va se faire uniquement pour homogénéiser, augmenter la qualité des examens et la qualité des traitements. Il convient donc de voir l’IA comme le « stéthoscope du 21ème siècle », l’IA est un outil et, à l’heure actuelle, rien de plus.

• Quels progrès attendus grâce à l’IA en santé ?

  Il y a déjà les progrès dont j’ai parlé dans les domaines de la radiologie, de l’anatomo-pathologie et d’interprétation d’images, de l’oncologie-radiothérapie avec le contourage automatique de l’imagerie et la planification automatique des traitements, et aussi la prédiction des taux de guérison, des risques de développer des maladies, qui vont changer les choses.

  En allant encore plus loin, des travaux sur la chirurgie et plus particulièrement la robotique de la chirurgie existent déjà. La première étape d’une robotisation complète de la chirurgie est déjà connue, il s’agit des robots chirurgicaux type Da Vinci, qui sont pour l’heure pilotés par des humains mais il est quand même question d’un robot qui est en train de faire de la chirurgie. Il manque pour ces développements la perception automatisée du champ opératoire par une IA c’est à dire la reconnaissance en vidéo, en temps réel, des instruments chirurgicaux et des organes que l’on est en train de voir. Depuis 2-3 ans, des travaux sont en cours, notamment à l’université de Stanford, sur de la reconnaissance automatisée d’outils chirurgicaux et d’organes. On peut donc imaginer qu’en matière de cœlioscopie ou de chirurgie robotique, à terme d’ici 15 à 20 ans, certaines chirurgies soient réalisées quasi intégralement de façon automatique, avec les robots que l’on a déjà, mais avec pilotage par les IA en cours de développement.

• Qui assume la responsabilité : le médecin ou la machine ?

  Sur la thématique de la responsabilité (en anglais « Liability »), il y a déjà des recherches. A l’heure actuelle, la décision finale revient toujours au médecin, de ce fait sa responsabilité est engagée. Il y aura une responsabilité partagée avec l’éditeur du dispositif médical. Les guidelines éditées par la commission européenne ou l’OMS orientées sur le versant réglementaire légal ne sont pas très claires. Aujourd’hui, on ne sait pas quelle sera la part des choses : une répartition des responsabilités à 50-50 ou bien le médecin va-t-il être plus responsable que l’éditeur ?

  Cependant, au même titre qu’un autre dispositif médical comme un scanner par exemple, GE ou Philips ou Siemens ont une responsabilité de fournir un appareil bien calibré et capable de bien fonctionner. Ce type d’approche sera probablement le même dans le domaine de l’IA avec la limite que cela sera un peu plus difficile à assurer, du fait des problèmes d’interprétabilité et de formation médicale.

• Quelle place de l’IA dans la pratique médicale de demain ?

  On a déjà un peu fait de la science-fiction avec la chirurgie automatisée, mais en revenant à une échéance plus courte, 5-10 ans, je pense qu’une part non négligeable des examens d’imagerie et d’anatomo-pathologie sera automatisée, soit à 100 %, soit en tout cas dans une certaine proportion par de l’IA.

  Vraisemblablement, l’optimisation des soins c’est à dire le parcours patient, le choix du meilleur traitement à donner, du meilleur antibiotique, de la meilleure chimiothérapie, du meilleur anti-hypertenseur, sera réalisée par une IA qui vous fera des propositions et, en tant que médecin, vous aurez la décision finale, et cela arrivera, je pense, d’ici 5 à 10 ans.

  Dans 15-20 ans, des interventions plus manuelles seront réalisées par un système robotique automatisé type chirurgie ou radiologie interventionnelle, tous les gestes type radio-fréquence qu’on connaît, radio-ablation etc.

  Et si l’on se projette beaucoup plus loin, d’ici 50 ans, on peut rentrer dans le domaine de la science-fiction. On sait que l’on est capable, et une fois de plus c’est Stanford qui est pionnier dans ce domaine, avec des capteurs sans même que l’on s’en rende compte d’interpréter et de capter l’état émotif des gens. C’est réalisable à une échelle macroscopique dans des halls d’aéroports, d’hôpitaux mais également - et c’est même plus facile - à l’échelle individuelle dans un box de consultation par exemple. Ainsi dans 50 ans… (quand je raconte cette histoire en général les gens pensent que je suis un peu trop ambitieux, mais considérez les changements qui ont eu lieu depuis environ 20 ans avec l’apparition d’internet, tout ce qu’on fait aujourd’hui avec internet  on n’imaginait pas qu’on pourrait le faire il y a 20 ans). Donc, imaginez maintenant dans 50 ans ce que l’on va pouvoir faire, c’est bien plus vertigineux. Je pense que l’on va avoir probablement des systèmes capables d’enregistrer, de capter les émotions humaines et en conséquence des systèmes - robotiques ou non - capables d’adapter par exemple une consultation médicale automatique pour optimiser le ressenti patient. Je donne toujours cet exemple, celui du médecin qui, à la fin de sa journée de consultation a vu 30 patients et peut parfois devenir un peu difficile ou en tout cas pas optimal dans ses relations humaines. Et bien, en tant que patient si je peux être toujours sûr d’avoir une réponse bienveillante et optimale même si elle vient d’une IA ou d’un robot et je pense que le patient une fois de plus en tirera bénéfice.

  Sans vouloir faire de la science-fiction trop dure, ni faire peur aux gens qui vont regarder cette interview, je pense qu’il n’est pas complètement impossible que dans 50 ans ou peut-être plus, nous ayons des médecins quasi robots ou robotiques qui traitent les patients.

• Avec des médecins robots qu’en est-il de l’empathie, de la relation humaine ?

  Cela pose évidemment énormément de questions, la plus fréquente « avec des médecins robots qu’en est-il de l’empathie et de la relation médecin/patient, de la relation humaine ». C’est une vraie question, ce que j’ai essayé de vous expliquer est que potentiellement un robot pourrait avoir plus d’empathie qu’un humain, c’est très difficile à concevoir mais c’est quand même la réalité.

  Et puis la deuxième chose est qu’en général les gens disent « je n’ai pas envie d’être traité par un robot, même si je sais que le robot est meilleur et bien je n’ai pas envie ». Pourtant, si vous avez le choix entre un humain qui a 20 % de taux de complications et un robot qui a 5 % ou 0 % de taux de complications, même moi j’aurais tendance à plutôt aller vers la solution qui me donne le moins de complications évidemment.

• Demain, s’il n’y a plus que de l’IA en médecine, que va devenir la formation des médecins ?

  Se pose une autre question concernant l’enseignement de la médecine. S’il n’y a plus que de l’IA partout, en radiologie très prochainement, en radiothérapie, en anatomo-pathologie, comment va-t-on faire pour former les médecins de demain puisque si tout est fait par de l’IA il n’y aura plus besoin de médecins et donc on ne pourra plus former les gens ?

  La solution n’a pas été trouvée et c’est un problème. Si on n’arrive plus à former les médecins de demain, on peut se poser la question de qui - quel humain, quel médecin - sera en capacité de vérifier que les fameuses IA ne font pas d’erreur. Des équipes travaillent sur ce problème, nous travaillons également sur ces thématiques au département d’IA en santé de l’université de Paris mais nous n’avons pas encore de solution. Il faudra pourtant la trouver pour éviter des situations sans doute très complexes.