Dico du futur de l'intelligence (et la bêtise) artificielle : IAnostic

Utilisation de l'IA pour réaliser un diagnostic médical

Comme les vacances vous ont mis en pleine forme, on va allez voir du côté de la santé. Après une exploration scolaire (les plus et les moins) des diagnostics médicaux effectués par les intelligences artificielles, je vous propose quelques maladies que l’IA peut provoquer. N’hésitez pas à compléter la liste.

Diagnostic: art de déterminer l'état financier du patient, afin de savoir à quel point le rendre malade. Le Dictionnaire du Diable (1911) de Ambrose Bierce

Le temps passe.

Si Ambrose Bierce actualisait son dico, on pourrait peut-être lire.

Diagnostic : art de faire paniquer un patient avec une application qui fournit une maladie au nom exotique et oblige à se ruer sur Doctolib pour ne pas trouver de rendez-vous avant des mois.

Demain, la définition sera encore autre, car le diagnostic est entrain d’être transformé par l’intelligence artificielle.

• Google développe Amie (Articulate medical intelligence explorer), un agent conversationnel spécialisé dans les rendez-vous médicaux. Vous avez mal au ventre. Après avoir analysé vos données médicales, Amie vous demande des précisions sur vos douleurs, ordonne des examens et effectue un diagnostic.

• Dreamquark est une IA qui identifie des rétinopathies diabétiques par la reconnaissance des biomarqueurs sur des clichés d’imagerie de fond de l’œil.

Quel que soit le domaine de la santé, on assiste à une explosion du nombre de solutions d’intelligence artificielle appliquées à la médecine et en particulier à l’aide au diagnostic.

Cette intrusion de la technologie dans la médecine pose de nombreuses questions : Peut-on faire confiance à une machine ? Peut-elle remplacer l’expertise humaine ? Quels critères éthiques faut-il respecter ? Va-t-elle changer la relation entre le patient et le médecin ?

Pour y répondre, je vous propose d’explorer quelques atouts et limites de ce type de diagnostic.

Atouts

De la disponibilité et une précocité du diagnostic

L’IA n’a pas de carnet de rendez-vous qui l’empêche de nous recevoir pendant des mois. En quelques minutes, nous avons une bonne évaluation de notre pathologie et nous pouvons donc agir en conséquence.

Avec un agent conversationnel de santé, la consultation pourra durer des heures. Ce clone numérique ne sera jamais épuisé. En prime, il pourra faire preuve d’une empathie donnant l’illusion d’une humanité.

Un diagnostic qui peut être très performant

L’IA peut créer des liens entre des patients du monde entier ayant des profils cliniques proches. De ce fait, elle identifie de nombreuses maladies.

Des millions de personnes sont atteintes par l'une des 7 000 maladies rares connues à ce jour. Vu le nombre, les médecins ne connaissent pas tous les symptômes de ces maladies. L'IA ayant cette capacité, c’est une aide diagnostique précieuse.

De la fluidité dans le domaine de la santé

Ces diagnostics peuvent mettre de la fluidité dans le système de santé. On peut, par exemple, imaginer que demain, les dermatologues auront des places réservées pour ceux qui auront pratiqué un IAnostic révélant un problème à traiter en urgence !

Limites

La fiabilité et la discrimination

Les IA ne sont pas infaillibles... Et, elles ne sont pas non plus professionnelles de santé ! Elles peuvent effectuer des diagnostics erronés si les données servant à faire fonctionner ses algorithmes sont incomplètes ou biaisées.

En 2016, une application créée à Stanford pour le diagnostic des mélanomes ne fonctionnait pas lors de l’analyse des peaux noires. Elle avait été entraînée à partir de photos de peaux blanches.

Les pathologies des personnes qui n’ont pas accès au soin ne se trouvent pas dans les bases de données. Ces populations marginalisées seront donc mal diagnostiquées par ces intelligences artificielles.

Confidentialité des données

Les IA moulinent à partir de données sensibles des patients. Leur protection est d’autant plus délicate que, plus les données sont anonymisées, moins elles sont pertinentes. Par exemple, la mise au point de médicaments doit tenir compte de données comme l’âge du patient, son origine ethnique, ses allergies, ses médicaments…

Clarté du diagnostic

Le fonctionnement des algorithmes de santé est opaque. L’IA fournit une réponse sans indiquer comment elle en est arrivée là. Il est difficile de faire confiance à une machine sans comprendre les bases de son raisonnement. Si un médecin annonce à un patient qu’il a une maladie incurable en disant : « Je n’y peux rien. C’est le diagnostic de l’IA », il a peu de chance de le revoir.

Perte de compétences du médecin

Si les IA de détection deviennent vraiment performantes, les médecins vont avoir tendance à déléguer sa décision à la machine. Et le patient, habitué à l’efficacité des services numériques dans la vie de tous les jours, fera de même en déléguant sa faculté à consentir aux soins. Le diagnostic médical sera entièrement automatisé et le médecin deviendra juste un exécutant aux ordres de la machine.

Une médecine du quantifiable

L’IA met aussi en danger l’approche holistique de la santé. Elle se concentre sur les aspects quantifiables au détriment d’éléments plus difficiles à décrire. En ne prenant pas en compte le contexte clinique et le récit du patient, elle transforme le malade en une machine à réparer.

MalarIA

Demain, les IA vont créer une malarIA ou une épidémie de nouvelles maladies. Sauront-elles les détecter ?

IAcondrie

Hypocondrie générée par l’intelligence artificielle

« DoctIA, j’ai mal là… Je souffre de ça. » Les IA de santé voulant bien faire, elles vont diagnostiquer des pathologies. À force de les consulter et de craindre le pire, les patients se rendent vraiment malades. L’IAcondrie fait, chaque année, de plus en plus de victimes.

Anoblitare

Incapacité à oublier

Enregistrement des images, des conversations, résumé des journées, des années, de la vie… Les intelligences artificielles empêchent au temps qui passe et repasse de faire son travail d’oubli. La mémoire étant encombrée et saturée, la personne qui souffre d’anoblitare ne peut plus vivre l’instant.

Identicide

Trouble lié à la perte de son l’identité.

À force de parler à des assistants numériques, des agents conversationnels, d’exécuter des taches définies par des machines, son identité d’humain se dissout. Les personnes qui souffrent d’identicide ne savent plus qui elles sont, ce qui leur appartient et quelles sont leurs valeurs. Elles errent dans les eaux numériques à la recherche d’elles-mêmes.

Cenochoix

Impossibilité de faire un choix

Depuis que les machines décident des choix des musiques qu’on écoute, des films qu’on regarde, des trajets qu’on effectue, du planning de la journée, des vêtements qu’on achète, des amours à vivre, prendre une décision devient un cauchemar. Les malades du cenochoix souffrent de l’absence de pratique de la décision.

C’est bientôt le mois de mai. Avant de vous offrir un brin de muguet, je vous propose une réduction de 16 %(1) sur toutes les productions des Propulseurs. Vous avez des livres pour découvrir et comprendre demain, mais aussi des cartes pour inventer vos futurs. Un jeu de 90 cartes sur le futur du travail, permet de créer des ateliers sur cette thématique. Le code promo est : D6ZAAE8K

Futureusement vôtre !

(1) Pourquoi 16 % ? Les dés ont décidé. On rejoue la semaine prochaine. Sourires.