Les neurotechnologies ouvrent de nombreuses possibilités, à la fois thérapeutiques et commerciales. Leurs implications sont nombreuses : à côté des promesses d’amélioration du bien-être physique et psychique, elles ouvrent la porte à des questionnements sur les responsabilités individuelles et collectives, sur la vie privée, sur l’identité. Par ailleurs, il s’agit de dispositifs hautement technologiques, aujourd’hui utilisés par une population vulnérable médicalement. Petit à petit, la nécessité d’avoir une réflexion éthique et légale sur les questions de fond aussi bien que sur la protection spécifiques des usager·e·s fait son chemin auprès des institutions. Dans cet article, je recense différents textes institutionnels relatifs au domaine des neurotechnologies, issus d’organismes français ou internationaux. Bientôt, des textes de loi ?

Mise en contexte : le marché des neurotechnologies aujourd’hui

Tout d’abord, il convient de poser une définition des neurotechnologies. Je reprends ici celle du texte OCDE de 2019 (sur lequel je reviendrai plus bas) :

L’appellation « neurotechonologies » recouvre les « dispositifs et procédures utilisés pour accéder au fonctionnement ou à la structure des systèmes neuronaux de personnes naturelles et de l’étudier, de l’évaluer, de le modéliser, d’exercer une surveillance ou d’intervenir sur son activité. »

OCDE 2019

Les premières applications, déjà existantes, étant médicales, on pourrait s’attendre à ce que la première instance internationale à s’en saisir soit l’Organisation Mondiale de la Santé. Pourtant, le dernier rapport ayant trait aux neurosciences et neurotechnologies date de 1997. On n’y trouve pas grand-chose d’intéressant : chirurgie oui, neurotransmetteurs oui, mais aucune trace d’électrostimulation ou d’interface cerveau-machine.

Pourtant, comme l’indique Neurotech Reports, le marché des neurotechnologies pèse aujourd’hui 9.8 milliards de dollars au niveau mondial, et on prédit une croissance de 75% à l’horizon 2026, pour s’établir à 17.1 milliards de dollars. La revue Nature alertait en décembre dernier sur cette bulle de business : tandis que les investissements augmentent, la compétition commerciale devient féroce. Les produits sont démarrés, commercialisés… puis, parfois, abandonnés, le profit n’étant pas au rendez-vous. Comme dans n’importe quelle industrie par ailleurs ; sauf qu’ici, les client·e·s sont aujourd’hui, avant tout, des patient·e·s, ayant subit des interventions particulièrement invasives pour devenir usage·re·s de dispositifs particulièrement complexes. Abandonnés par les constructeurs, il devient impossible de faire fonctionner les équipements. Le dispositif, désormais inutile, peut même devenir franchement nuisible lorsqu’il devient un obstacle à d’autres soins. L’article de Nature relate de façon assez incroyable comment un de ces usagers abandonnés a dû s’appuyer sur ses propres compétences d’ingénieur électricien à la retraite pour remplacer lui-même les batteries de son stimulateur anti-migraine. Comment sécuriser les patient·e·s ? Le journal évoque des pistes : provisionner des enveloppes financières afin d’assurer la continuité de service en cas de défaut de l’entreprise ; conditionner les subventions et investissements à l’existence de telles provisions ; mais aussi standardiser les systèmes (connecteurs, électrodes, batteries notamment), souvent propriétaires, afin de faciliter leur maintenance par des tiers – comme c’est le cas pour les pacemakers cardiaques, depuis les années 90.

Premier rapport français en 2008, entrée dans la loi Bioéthique en 2011

En mars 2008 a lieu dans l’hémicycle de l’Assemblée Nationale une Audition publique ayant pour titre Exploration du cerveau, neurosciences : Avancées scientifiques, enjeux éthiques. Le rapport en français est disponible ici. L’objet de cette audition est de cerner l’impact juridique et social des recherches sur le cerveau à la lumière des nouvelles technologies, en vue de la révision de la loi Bioéthique. Cette révision aura lieu en 2011, et incluera pour la première fois des considérations liées aux neurosciences.

La loi Bioéthique 2011 est disponible ici ; selon le Titre VIII – Article 45 :

• Les techniques d’imagerie cérébrale ne peuvent être employées qu’à des fins médicales ou de recherche scientifique, ou dans le cadre d’expertises judiciaires. (Code Civil)
• C’est le Ministère de la Santé qui définit les règles de bonnes pratiques applicables aux examens d’imagerie cérébrale à des fins médicales en tenant compte des recommandations de la Haute Autorité de Santé. (Code de la Santé Publique)

En 2012, le Centre d’Analyse Stratégique publiera également un rapport sur l’émergence du Neurodroit, il s’agit d’un document de travail.

Décembre 2019 : première norme internationale sur l’Innovation Responsable dans les neurotechnologies

Il faudra ensuite attendre 2015 pour qu’une autre institution internationale, l’OCDE, se saisisse du sujet en préparant une recommandation sur l’innovation responsable dans le domaine des neurotechnologies, qui sera publiée en 2019. Il s’agit de la première « norme internationale » sur le sujet, mais ce texte n’a qu’une valeur de recommandation et non une valeur d’obligation. L’OCDE évoque les risques suivants : « Ces questions ont notamment trait à la protection des données (cérébrales), aux perspectives d’augmentation de l’être humain, à la réglementation et la commercialisation d’appareils directement destinés aux consommateurs finaux, à la vulnérabilité des schémas cognitifs à l’égard des manipulations commerciales ou politiques, et aux inégalités d’utilisation et d’accès. Les questions de gouvernance soulevées par les neurotechnologies touchent l’intégralité du processus d’innovation, de la recherche fondamentale sur le cerveau, la neuroscience cognitive et d’autres sciences inspirées du cerveau jusqu’aux problématiques de commercialisation. »

Le texte est accessible en français ici.

2021, une année décisive au niveau international

L’année 2021 semble être charnière, avec une activité au niveau international et interne à plusieurs pays. Alors que la France crée une task force suite à la recommandation de l’OCDE (voir plus bas), le Chili devient en octobre 2021 le premier au monde à mettre en lecture de ses institutions législative un amendement constitutionnel relatif aux neurodroits. La loi définit alors la notion de « données neuronales » afin de les considérer comme un organe, dont il faut assurer l’intégrité au même titre que le reste du corps. Je n’ai pas trouvé le texte, mais l’UNESCO en a fait un article en français ici, et des informations en espagnol sont également accessibles sur le site du Sénat chilien.

Pendant ce temps, le Conseil de l’Europe continue à se poser des questions, et tient table ronde sur le thème : « Neurotechnologies et Droits Humains : Avons-nous besoin de nouveaux droits ? ». Les vidéos, le rapport et le résumé sont disponibles ici.

De son côté, l’UNESCO publie en décembre 2021 un rapport (initialement annoncé pour mars) alertant sur les enjeux éthiques des neurotechnologies car « Les risques de dérives de technologies explorant ou modulant notre système nerveux vont s’accroître ».

Dernières actualités : 2022

Suite à cette jolie pile de rapports de l’OCDE, de l’UNESCO et du Conseil de l’Europe, retour en France à l’Assemblée Nationale pour l’émission en janvier 2022 d’une note scientifique sur les neurotechnologies. J’imagine que ce type de petit texte récapitulatif est partie d’un travail préparatoire qui amènera nos décideurs à légiférer sur le sujet, car (je cite) : « Les enjeux éthiques sont croissants et plaident pour une régulation de ces technologies comme en témoignent de nombreuses initiatives au niveau international. » On pourra s’amuser, ou pas, de la lenteur du processus, quand on sait que l’une des neurotechnologies les plus invasives, la stimulation cérébrale profonde chronique, a été mise au point dans sa forme actuelle en France… dans les années 80.

A la suite de la recommandation OCDE, la task force française créée en 2021 sort sa première action fin 2022 : de proposer aux entreprises d’adhérer à une charte de développement responsable des neurotechnologies, texte co-construit avec les différents acteurs. Ce très court texte, document encore une fois « sans contrainte juridique » de 3 pages (en réalité, seule 1 page contient lesdits principes, est disponible ici. Il évoque les 5 engagements suivants :

• Protéger les données cérébrales personnelles
• Assurer la fiabilité, la sûreté et la sécurité des dispositifs médicaux et non médicaux
• Développer une communication éthique et déontologique
• Prévenir les usages abusifs, les applications et les manipulations malveillantes
• Prendre en compte les attentes sociétales

Au niveau international, en août 2022 paraît un document présenté comme « un premier rapport au niveau mondial » : le rapport Neurotechnology, law and the legal profession report, développé par l’école de droit de Sydney, commandité par la Law Society of England and Wales. C’est une première dans le sens où les juristes, et non les législateurs ou décideurs, s’emparent du sujet. Parmi les questions évoquées, les juristes s’interrogent sur la surveillance des pensées des criminels, sur l’intervention cérébrale préventive, sur le piratage des neurotechnologies, ou encore sur la responsabilité légale des patients implantés. Il y a également une partie qui explore les impacts des neurotechologies sur l’activité des avocats et juristes, dans leur quotidien (surveillance des employés, paiement à la charge cognitive réelle…). Ce rapport a le mérite de se poser des questions pratico-pratiques. Il est disponible ici et en version abrégée ici.

En conclusion : les cinq « neurodroits » fondamentaux de la NeuroRights Foundation

[séquence opinion personnelle] Dans le domaine des neurotechnologies, on se retrouve au même stade que dans le domaine de l’intelligence artificielle, mais en moins avancé. On sait qu’il y a des enjeux, on sait qu’il va y avoir des problèmes, mais on est sur des échelles de temps moyen ou long non compatibles avec le temps politique… donc on répond « ah, oui, il va falloir faire quelque chose, bientôt », et puis voilà. Quand on connait le peu d’affinité des décideurs avec la culture technologique, on se dit qu’on n’est pas sortis de l’auberge. En même temps, c’est au pied du mur qu’on voit le mieux le mur. [fin de la séquence opinion personnelle]

Heureusement, des groupes se mobilisent, dont la NeuroRights Foudation. Cette fondation issue de l’Université Columbia à New York est une initiative interdisciplinaire qui explore les questions éthiques et juridiques liées à la neuroscience et promeut les droits des individus en matière de protection de la vie privée et de la dignité. Pour résumé les enjeux à venir, je reprends les 5 neurodroits fondamentaux proposés par cette institution. Ces neurodroits devraient être :

• Droit à l’Identité personnelle : Il s’agit de limiter toute neurotechnologie qui altérerait le sentiment d’identité d’une personne et d’empêcher la perte de l’identité personnelle par la connexion à des réseaux numériques externes.
• Droit au Libre arbitre : Il s’agit de préserver la capacité des personnes à prendre des décisions de manière libre et autonome, c’est-à-dire sans aucune manipulation par le biais des neurotechnologies.
• Droit à la Vie privée mentale : Elle protège les individus contre l’utilisation des données obtenues lors de la mesure de leur activité cérébrale sans leur consentement et interdit expressément toute transaction commerciale impliquant ces données.
• Doit à L’égalité d’accès : Il s’agit de réglementer l’application des neurotechnologies pour augmenter les capacités cérébrales, afin qu’elles ne soient pas réservées à un petit nombre et ne génèrent pas d’inégalités dans la société.
• Droit à la Protection contre les biais : Il s’agit d’empêcher que les personnes soient discriminées sur la base de tout facteur, comme une simple pensée, qui peut être obtenu par l’utilisation des neurotechnologies. »

---

▶ Nos derniers articles de veille sur les neurotechnologies :