Algorithmes, automates, robots, voilà des mots qui sont de plus en plus répandus dans les discours et les écrits.

À quelques nuances étymologiques près, je ne pense pas trop me tromper en disant qu’on parle ici de la même chose : l’exécution de tâches sans intervention humaine, en vue d’atteindre un certain résultat.

Ils sont déjà présents dans le quotidien de monsieur tout le monde. Deux exemples : qui ne va pas chercher de l’argent dans un mur et qui ne fait pas appel une application pour calculer rapidement ses impôts ?

Déjà largement utilisés dans l’industrie, voilà qu‘ils envahissent le secteur des services. Banques et compagnies d’assurances se digitalisent à la vitesse grand V avec restructurations à la clé.

Le but poursuivi est toujours le même : accroître la rapidité d’exécution (et donc de satisfaction du client-utilisateur) et de diminuer un coût et pas n’importe lequel : le coût humain. Et incidemment le risque d’erreur aussi.

Et leur champ ou domaine d’application s’étend chaque jour davantage.

Relativement récent, il y a le robot ou l’algorithme qui gère votre portefeuille titres, en lieu et place du gestionnaire de fortune. Cette gestion automatisée est basée sur votre profil d’investisseur (défensif, conservateur, dynamique, agressif, …). Dans le cas qui m’est connu, il y a (tout de même) une intervention humaine dans le processus puisque un comité d’investissement va, sur base régulière et dans son appréciation des marchés, déterminer dans quels produits investir et ce, en fonction de votre appétence au risque. Les transactions sont, elles, décidées par le robot.

Tout dernièrement, un article d’un grand journal américain a attiré mon attention. Il faisait état d’une société privée qui a développé un algorithme qui, accédant aux données de santé de certains patients, pouvait prédire s’ils passeront (ou pas) l’année suivante.

Le but poursuivi est – on ne s’en cache pas et si le résultat de l’algorithme est « positif » – de limiter les coûts de traitement pour des patients dans des situations extrêmement graves (phase terminale, fin de vie, …), en leur proposant de passer en soins palliatifs. Il s’agit de faire des économies pour le Medicare, le système de couverture des soins de santé américain.

Pour autant que ce que j’ai lu sur la toile soit correct, ne sont bénéficiaires de ce système que les citoyens américains à partir de 65 ans. En deçà de cet âge, le patient doit payer plein pot.

De ce que je crois comprendre, les représentants (médecins, infirmiers ?) de cette société « inviteraient » les « élus » de l’algorithme à choisir les soins palliatifs plutôt que de continuer un traitement par essence coûteux.

Cela se ferait sans pression pour que le patient renonce à son traitement, mais en insistant s’il continue le traitement sur la lourdeur et l’inconfort croissant qu’il va provoquer.

J’avoue être perplexe et choqué en même temps.

Perplexe parce qu’il me semble que c’est de la compétence du seul médecin de juger de l’état de son patient et de lui proposer ou non, les soins palliatifs. Ça relève aussi de sa responsabilité d’éviter tout acharnement et donc tout coût supplémentaire.

Faut-il un robot pour juger de cette opportunité ?

Choqué parce que c’est une société privée qui accède à des données de santé, a priori privées, stockées par un organisme public.

Quel est le cadre légal de l’accès à ces données ? Les patients ont-ils – au minimum – donné leur accord à l’accès de leurs données médicales ?

Apparemment non. Quelle est alors l’engagement de cette société à assurer la confidentialité des données auxquelles elle accède.

Ensuite je m’interroge sur la conception de l’algorithme. On n’en dit rien dans l’article mais je peux m’imaginer qu’il est basé sur la compilation de données statistiques.

Si c’est le cas, tient-on compte des cas qui se situent aux extrémités de la courbe de Gauss c’est-à-dire improbables ? En d’autres termes, l’algorithme ne pourrait-il pas se tromper ? C’est-à-dire envoyer en soins palliatifs quelqu’un qui aurait pu être guéri si le traitement avait été poursuivi ?

Vous me direz que le médecin aussi peut se tromper. Mais j’apprécie plus un diagnostic de conviction même erroné, plutôt que basé sur un résultat finalement d’ordinateur derrière lequel il est plus facile de se retrancher.

Et puis qui ne dit pas que demain il n’y ait pas une extension de l’application de ce robot : les compagnies d’assurance-hospitalisation pourraient être intéressées par cet algorithme, pour limiter leurs interventions, ou un ministre de la santé d’un pays, soucieux de faire des économies dans le système de soins de santé.

Jusqu’où veut-on aller ? Jusqu’on peut-on aller ?