Recourir à des robots pour soigner représente probablement autant un défi pour le droit qu’il l’est pour la science. La robot-chirurgie quitte désormais le domaine la science-fiction et de la recherche pour rejoindre celui des blocs opératoires comme le montre le récent succès de Rosa par Bertin Nahum.
Mais, plus inattendu, les robots investissent aussi le champ psycho-affectif comme le fait Nao auprès des jeunes autistes.
L’irruption de ce tiers-étrange dans le face à face du médecin au malade bouleverse toute l’économie de leur relation. C’est la place de ce médiateur que le droit ne peut manquer de saisir.
La responsabilité robotique
On pourrait être tenté de ne voir dans le robot que la machine-prolongement-humain, augmentation du médecin. Mais c’est déjà une étape décisive.
Michel Serres souligne souvent que les outils numériques sont un prolongement, presque un démembrement humain, à l’image du martyre de Saint-Denis qui, décapité, avait marché avec sa tête entre les mains.
Sans même parler d’intelligence artificielle, l’extraordinaire capacité des algorithmes qui guident les robots exprime une part d’intelligence (mémoire, capacité à résoudre des problèmes complexes, à interagir, à s’adapter…). La puissance agissante qui en résulte rend ces objets beaucoup moins inertes que ne le seraient des objets inanimés. Or, l’histoire du droit de la responsabilité se trouve intimement liée à celle du mouvement et du contrôle de sa dynamique.
Mais, désormais, il deviendra difficile de se satisfaire d’une lecture minimale de la directive européenne n°2006/42/CE du 17 mai 2006 qui impose de veiller à ce que la machine est conforme aux exigences essentielles de santé et de sécurité et de rendre disponible un dossier technique
Certes, avant de mettre une machine sur le marché, le fabricant doit s’assurer que la documentation technique pertinente soit établie, veiller à ce qu’une évaluation des risques soit effectuée afin de déterminer les exigences de santé et de sécurité. La machine doit ensuite être conçue selon ces risques en déterminant les limites de la machine, comprenant son usage normal et tout mauvais usage raisonnablement prévisible puis en recensant les dangers pouvant découler de la machine. Le fabricant doit éliminer les dangers ou réduire les risques en appliquant des mesures de protection.
Mais ces obligations prennent un relief particulier dans la complexité du vivant et dans la triangulation, voire la quadrangulation que forment le fabricant, le médecin, la machine et le patient.
Plus que les obligations d’information et de prévention statiques de la directive, un véritable devoir de coopération active et continue paraît s’imposer puisque le robot n’est pas un simple outil.
L’étendue de cette responsabilité ne se limite d’ailleurs pas à l’activité matérielle. Elle est aussi -peut-être surtout- une responsabilité de la connaissance.
En matière de e-santé, les robots prennent mille formes et les plus décisifs, ceux qui calculent, prédisent et modélisent, ne sont pas ceux qui sont les plus visibles.
Le droit des robots est donc d’abord un droit des données et des algorithmes. Un droit des données pour définir les données auxquelles la machine peut accéder, mais aussi pour prévenir les biais d’une représentation faussée par des informations mal acquises.
L’assistance robotique à la décision, notamment lorsqu’elle repose sur des objets connectés qui alimentent un système d’information de santé, peut en effet faire risquer un discontinuum de l’intervention humaine qu’il faut pouvoir éviter. Le champ de cette responsabilité dans l’IHM doit ainsi se traduire à la fois dans un définition contractuelle efficace et dans un régime légale prescrivant un certain standard d’information et de contrôle du système de données.
Quant au droit des algorithmes, notamment prédictifs, nous avions déjà souligné ici qu’il impliquait un changement de paradigme en substituant un modèle corrélatif à un modèle causaliste, ce qui emporte naturellement des conséquences juridiques majeures.
Dans son étude annuelle pour 2014 consacrée au numérique et aux droits fondamentaux, le Conseil d’État a par ailleurs invité le législateur à examiner les questions liées aux algorithmes. Il préconise ainsi de reconnaître une obligation de loyauté des critères des algorithmes pour éviter les discriminations sociales ou économiques. Pour garantir ce principe, il rend nécessaire un droit à la transparence permettant de discuter contradictoirement les résultats et de vérifier l’objectivité suffisante de l’algorithme, sans toutefois porter atteinte au secret de sa conception. Mais surtout, le Conseil d’État souhaite qu’une intervention humaine effective puisse garantir que la décision ne soit pas abandonnée à la machine.
Lire aussi : Présentation de l’entreprise NotreSanté : le suivi de la santé des familles
De la personnalité des robots au droit du vivant
Consacrer un droit des robots, en prenant acte de la singularité de l’interaction robotique, n’est-ce pas rendre inéluctable la reconnaissance d’une personnalité des robots comme le recommandent certains ?
Un robot qui, comme Nao, exercerait les humains à l’empathie, ne devrait-il pas accéder à ce statut ?
La puissance et la popularité du Cycle des robots d’Asimov sont porteurs d’un véritable imaginaire pour le droit des robots. Dans la nouvelle éponyme, Robbie est un robot qui suscite un tel attachement de la part de la jeune Gloria, que cette affection débordante et exclusive trouble ses parents qui n’auront de cesse que d’éloigner la machine. Le père voudra certes permettre une dernière rencontre entre sa fille et Robbie au risque de provoquer une émotion si forte chez Gloria qu’elle la mettra en danger. Le robot, fidèle à la première loi de la robotique d’Asimov, sauvera la jeune fille ; mais on n’oubliera pas qu’il aura aussi causé cet émoi.
En l’occurrence, cette nouvelle met en évidence l’absence de sensibilité du robot lui-même, alors que ce dernier suscite au contraire une empathie humaine.
Si l’on considère que la personnalité juridique est fondée sur la sensibilité (individuelle ou collective) plutôt que sur les capacités cognitives, la personnalisation du robot ne se justifie donc pas dans une relation d’empathie asymétrique.
En revanche, la singularité de cette interaction affective et sociale invite à penser le droit sous l’angle de la régulation de l’imitation du vivant.
C’est donc un nouveau pan de la bioéthique qui s’ouvre. Mais cette bioéthique est aussi celle du robot-prothèse, c’est-à-dire de l’humainté augmentée.
Dans un rapport de novembre 2014, la Commission de réflexion sur l’Éthique de la Recherche en sciences et technologies du Numérique d’Allistene (CDEFI, CEA, CNRS, CPU, Inria et l’Institut Mines-Télécom) a dégagé à cet égard des pistes essentielles http://cerna-ethics-allistene.org/digitalAssets/38/38704_Avis_robotique_livret.pdf.
La Commission estime que dans le cas des organes robotisés à vocation réparatrice, le chercheur devrait avoir le souci de la préservation de l’autonomie de l’individu équipé, à savoir de la maitrise qu’il conservera sur ses actions, et de la conservation de l’intégrité́ des fonctions autres que celles concernées par la réparation.
Dans le cas des dispositifs robotisés visant l’augmentation, le chercheur devrait veiller à la réversibilité́ de celle-ci : les dispositifs devraient être amovibles sans dommage pour la personne, autrement dit, sans que la personne perde l’usage de ses fonctions initiales.
Lire aussi : Optic 2000 et Ellcie-Healthy : un beau partenariat pour la sécurité des automobilistes
Enfin, la commission envisage la question de la discrimination en invitant à mesurer l’incidence de l’augmentation des facultés et des capacités humaines induites par les dispositifs qu’il développe sur le comportement social de ceux qui en bénéficient ainsi que, symétriquement, de ceux qui n’en bénéficient pas.
Le droit des robots apparaît en ce sens d’abord comme un droit du vivant plutôt que comme un droit de la personnalité.
