es dispositifs capables d'enregistrer et de modifier l'activité cérébrale poseront des problèmes de protection de la vie privée qui remettront en cause la législation actuelle sur les droits de l'homme, affirment les chercheurs.
Les progrès scientifiques font rapidement des concepts de science-fiction tels que la lecture de l'esprit une réalité - et soulèvent des questions épineuses pour les éthiciens, qui réfléchissent à la manière de réglementer les techniques de lecture du cerveau pour protéger les droits de l'homme tels que la protection de la vie privée.
Le 13 juillet, des neuroscientifiques, des éthiciens et des ministres ont débattu du sujet lors d'une réunion organisée à Paris par l'UNESCO, l'agence scientifique et culturelle des Nations unies. Les délégués ont défini les prochaines étapes de la réglementation des "neurotechnologies", c'est-à-dire des techniques et des dispositifs qui interagissent directement avec le cerveau pour en surveiller ou en modifier l'activité. Ces technologies font souvent appel à des techniques électriques ou d'imagerie et couvrent toute la gamme des dispositifs médicalement approuvés, tels que les implants cérébraux pour le traitement de la maladie de Parkinson, aux produits commerciaux tels que les vêtements utilisés dans la réalité virtuelle pour recueillir des données sur le cerveau ou pour permettre aux utilisateurs de contrôler des logiciels.
Gabriela Ramos, sous-directrice générale de l'UNESCO pour les sciences sociales et humaines, a déclaré lors de la réunion que la question de la réglementation des neurotechnologies "n'est pas un débat technologique, mais sociétal et juridique".
Les avancées dans le domaine des neurotechnologies comprennent une technique de neuro-imagerie qui peut décoder le contenu des pensées des gens, et des interfaces cerveau-ordinateur implantées (BCI) qui peuvent convertir les pensées des gens en écriture manuscrite en texte1.
Le domaine se développe rapidement - le dernier rapport de l'UNESCO sur les neurotechnologies, publié lors de la réunion, a montré que, dans le monde entier, le nombre de brevets liés aux neurotechnologies déposés chaque année a doublé entre 2015 et 2020. Selon le rapport, les investissements ont été multipliés par 22 entre 2010 et 2020, et les neurotechnologies représentent aujourd'hui une industrie de 33 milliards de dollars.
Les dispositifs abondent
L'un des domaines nécessitant une réglementation est le potentiel d'utilisation des neurotechnologies pour le profilage des individus et l'idée orwellienne de manipuler les pensées et le comportement des gens. Les dispositifs de surveillance du cerveau commercialisés en masse constitueraient un puissant ajout à un monde numérique dans lequel les entreprises et les acteurs politiques utilisent déjà les données personnelles à des fins politiques ou commerciales, explique Nita Farahany, éthicienne à l'université Duke de Durham, en Caroline du Nord, qui a participé à la réunion.
Les décideurs politiques sont confrontés au défi de créer des réglementations qui protègent contre les inconvénients potentiels des neurotechnologies sans restreindre la recherche sur leurs avantages. Selon M. Farahany, les produits médicaux et les produits de consommation posent des problèmes différents.
Les produits destinés à un usage clinique sont largement régis par les réglementations en vigueur pour les médicaments et les dispositifs médicaux. Par exemple, un système qui surveille l'activité cérébrale des personnes épileptiques et stimule leur cerveau pour supprimer les crises potentielles est en cours d'utilisation clinique2. Des dispositifs plus avancés - tels que les BCI implantés, qui permettent aux personnes paralysées de contrôler divers appareils externes par la seule force de leur pensée - sont à l'essai.
Mais ce sont les dispositifs commerciaux qui préoccupent le plus les éthiciens. Des entreprises, qu'il s'agisse de jeunes pousses ou de géants de la technologie, mettent au point des dispositifs portables destinés à un usage généralisé, notamment des casques, des oreillettes et des bracelets qui enregistrent différentes formes d'activité neuronale - et qui permettront aux fabricants d'accéder à ces informations.
La confidentialité de ces données est une question essentielle. Rafael Yuste, neuroscientifique à l'université Columbia de New York, a déclaré lors de la réunion qu'une analyse non publiée de la Neurorights Foundation, qu'il a cofondée, a révélé que 18 entreprises proposant des neurotechnologies grand public ont des conditions générales qui obligent les utilisateurs à donner à l'entreprise la propriété de leurs données cérébrales. Toutes ces entreprises, sauf une, se réservent le droit de partager ces données avec des tiers. "Je qualifierais cette pratique de prédatrice", déclare M. Yuste. "Cela reflète l'absence de réglementation.
Selon M. Farahany, il est urgent de réglementer les dispositifs commerciaux, étant donné que le marché potentiel de ces produits est vaste et que des entreprises pourraient bientôt chercher à tirer profit des données neuronales des personnes.
Besoin de droits neuronaux
Un autre thème abordé lors de la réunion a été la manière dont la possibilité d'enregistrer et de manipuler l'activité neuronale remet en question les droits de l'homme existants. Certains orateurs ont affirmé que les droits de l'homme existants - tels que le droit à la vie privée - couvrent cette innovation, tandis que d'autres pensent que des changements sont nécessaires.
Deux chercheurs ont discuté de l'idée des "droits neuronaux", qui protègent les tiers contre l'accès à l'activité neuronale d'une personne et son influence sur celle-ci.
"Les droits neuronaux peuvent être des libertés négatives et positives", a déclaré Marcello Ienca, philosophe à l'université technique de Munich (Allemagne), lors de la réunion. Une liberté négative signifie, par exemple, la liberté de ne pas faire l'objet d'une intrusion dans ses données cérébrales sans son consentement. Une liberté positive peut être la capacité des gens à accéder équitablement à une technologie médicale précieuse.
M. Yuste et ses collègues proposent cinq grands droits neuronaux : le droit à la confidentialité mentale, la protection contre les manipulations qui modifient la personnalité, la protection du libre arbitre et de la prise de décision, l'accès équitable à l'augmentation mentale et la protection contre les biais dans les algorithmes qui sont au cœur de la neurotechnologie.
Yuste et Ienca espèrent que leurs propositions alimenteront le débat sur la réglementation de la lecture du cerveau et sur les défis posés aux traités relatifs aux droits de l'homme.
Des changements concrets
Des pays comme le Chili, l'Espagne, la Slovénie et l'Arabie saoudite ont commencé à élaborer des réglementations, et des représentants ont discuté des travaux de leur pays lors de la réunion. Le Chili se distingue par le fait qu'en 2021, il est devenu le premier pays à mettre à jour sa constitution pour reconnaître que les neurotechnologies ont besoin d'un contrôle juridique.
Carolina Gainza Cortés, sous-secrétaire chilienne à la science et à la technologie, a déclaré que le pays était en train d'élaborer une nouvelle législation et que les législateurs discutaient de la manière de préserver les droits de l'homme tout en autorisant la recherche sur les avantages des technologies.
La prochaine étape pour les États membres de l'UNESCO sera de voter en novembre sur la question de savoir si l'organisation doit produire des lignes directrices mondiales sur les neurotechnologies, similaires aux lignes directrices que l'UNESCO est en train de finaliser pour l'intelligence artificielle, qui aident les États membres à mettre en œuvre la législation. "J'espère que nous passerons des principes éthiques à des cadres juridiques concrets", déclare M. Farahany.
"En ce qui concerne les neurotechnologies, nous ne sommes pas trop en retard", a déclaré M. Farahany lors de la réunion. "Elles ne sont pas encore passées à l'échelle de la société.
DeepL