Santé et intelligence artificielle

Je rends compte ici d'un livre technique, à titre d'exception, car le sujet mérite l'intérêt du public. C'est un ouvrage collectif qui vient compléter un rapport gouvernemental de mars dernier (http://m.enseignementsup-recherche.gouv.fr/cid128577/rapport-de-cedric-villani-donner-un-sens-a-l-intelligence-artificielle-ia.html). On peut le voir comme un outil de sensibilisation du milieu médical et des patients. Il ne définit pas son sujet et j'adopte par défaut la définition de Wikipédia : « L'intelligence artificielle (IA) dans la santé est l'utilisation d'algorithmes et de logiciels pour s'approcher de la cognition humaine dans l'analyse de données médicales complexes ». Dans le premier chapitre, Cédric Villani nous rassure : les atouts de la France sont l'excellence mathématique (dont acte) et un centralisme qui permet à l'assurance-maladie de disposer de 65 millions de dossiers dans le système national des données de santé (SNDS) ; et en même temps (formule gouvernementale), il nous inquiète par le retard pris vis-à-vis des USA ou de la Chine, par le brain drain des meilleurs spécialistes français qui émigrent ou sont embauchés en France par les laboratoires des GAFA, et par notre très forte dépendance au matériel informatique, au cloud et aux moteurs de recherche américains.

Pour commencer, la donnée : « Une donnée en soi n'a d'intérêt que si elle est bien propre, rangée et bien étiquetée » (p 19) ; « dans la mesure où le développement de l'IA dépend principalement de l'implication des patients, l'acculturation, l'acceptation et la confiance doivent constituer une préoccupation de premier ordre » (p 27). Je laisse de côté l'ontologie au sens informatique pour aborder l'implication et la confiance des patients, et aussi la confiance des médecins. Les données d'objets connectés, produites en masse par les patients, sont souvent de qualité douteuse. La majorité des 13 millions d'hypertendus en France ont un moniteur de tension artérielle et la majorité confond marquage CE, qui certifie la qualité matérielle et l'innocuité du moniteur, et la validation métrologique, qui certifie que le matériel mesure la pression artérielle. Or moins d'un dixième des moniteurs ont une validation métrologique. Idem pour les symptômes : de nombreuses bases de données fourmillent de symptômes non définis et non quantifiés. Quant à la confiance, son défaut a tué dans l'oeuf le dossier médical partagé (DMP) : le droit d'opposition, le droit de correction et le droit à l'oubli ont compromis la confiance des médecins. À quoi bon un DMP pour le médecin confronté à un nouveau patient, par exemple dans l'urgence d'une fièvre inexpliquée ou d'une syncope, si l'on a pu effacer un antécédent d'infection VIH ou d'épilepsie ? Dans « les quatre V du Big data » (p 122), le Volume, la Variété, la Vélocité et la Véracité, le dernier est réellement critique.

Ensuite la base de données. Son architecture et son contenu sont liés à l'objectif qui a guidé sa construction. le SNDS est l'une des plus grandes bases de données médicales mondiales, mais il est construit comme un outil de gestion mettant en regard les diagnostics de la classification internationale des maladies et des actions remboursables (médicaments, séjours, explorations, interventions). En conséquence il ne contient pas les facteurs de risques : on sait par exemple qu'un patient a un cancer du poumon, mais on ne sait pas s'il fume. Il ne contient pas non plus les actes hors nomenclature, or il faut souvent des années pour qu'une exploration ou une intervention nouvelles soient codifiées, d'où « le trou noir des actes nouveaux en chirurgie » (p 89) : il est impossible d'utiliser le SNDS pour évaluer la chirurgie robotique qui en a pourtant bien besoin.

Puis l'usage des données. le livre contient de nombreux chapitres sur l'aide qu'apporte l'informatique au traitement des images en radiologie ou en histologie (examen des tissus). Il est certain que les reconstructions d'images, qui sont une forme de synthèse, ou la quantification en nombre et en volume de métastases ou de cellules tumorales, aident puissamment l'imageur qui n'envisage plus, par exemple, de lire une à une les 2000 images d'un scanner contemporain. Toutefois, c'est une aide informatique plutôt que de l'IA. Plus proche de l'IA sont les mesures de densité ou de cinétique de croissance qui aident au pronostic et au choix thérapeutique, ou encore les photographies haute définition de tumeurs cutanées. La carte d'identité des tumeurs, qui permet l'analyse du génome tumoral pour connaître le mécanisme moléculaire dominant au sein du cancer d'un patient donné et d'adapter le traitement en fonction — un des aspects de la médecine personnalisée — est un saut qualitatif, une véritable avancée de l'IA, mais elle repose sur des séries rétrospectives encore lacunaires pour les cancers rares et requiert, au moins pour les métastases, des ponctions tumorales qui ne facilitent pas la vie des patients. Nul doute que ces domaines vont progresser rapidement.

Il faut pourtant revenir aux bases des données. Google veut nous faire croire que leur ouverture va accélérer les progrès à l'échelle mondiale en omettant de mentionner qui possède ces bases. Juridiquement, elles appartiennent à l'institution qui les a générées en finançant les hôpitaux, les séjours, les explorations, les interventions, les salaires des personnels médicaux et paramédicaux, etc. L'Assistance Publique des Hôpitaux de Paris (APHP), ou le SNDS, ou encore les multiples assurances privées américaines défendent jalousement leurs bases de données — sans trop de réactivité sur la valorisation de la part de l'APHP. Un marché cognitif se met en place avec les risques bien connus de piratage, d'opacité dans la validation des algorithmes, de bruit des données douteuses (voir ci-dessus), d'embouteillage des craintes (voir le chapitre de Gérald Bronner), et de biais dans l'usage des bases. D'une façon générale, les informations issues de bases de personnes assurées s'appliquent mal aux personnes non assurées, moins riches, moins instruites, moins observantes. Un biais est présent dans l'illustration même de l'intérêt de l'IA selon Wikipédia (voir ci-dessus). L'article donne en exemple le calcul automatique de l'âge osseux à partir d'une radio du poignet par un logiciel informatique, une technique en usage par la police des frontières pour refouler des migrants majeurs. Malheureusement, ce calcul est tiré de tables des années 50 qui s'appliquent à des adolescents caucasiens et l'on a montré qu'il était caduc chez des adolescents marocains — et sans doute plus encore chez des adolescents originaires d'Afrique subsaharienne.

Nous avons besoin de l'IA, « compagnon biologique et pilier numérique » du médecin (p 276), mais elle doit être encadrée par une réflexion méthodologique, éthique et même politique. À ce titre, il est heureux que Cédric Villani soit député et qu'il ait l'oreille du gouvernement. On lira pour s'amuser l'extension des lois de la robotique d'Asimov quand elles s'appliquent au robot social (p 392), et, pour réfléchir, les recommandations de Nicolas Ayache (INRIA et Académie des sciences) : « Ces nouveaux outils ont vocation à aider le médecin, pas à le remplacer. En effet certaines des qualités du médecin comme la compassion, la compréhension, l'esprit critique et la conscience professionnelle (les “quatre C”) restent encore et pour longtemps l'apanage de l'intelligence humaine. Elle demeure aujourd'hui irremplaçable » (p 153).