Les dilemmes éthiques de l’innovation en santé propulsée par l’IA en neurologie

Au cours de la dernière décennie, l’intelligence artificielle (l’IA) et l’apprentissage automatique (AA) se sont de plus en plus positionnés à l’avant-garde de la transformation des soins et des systèmes de santé, promettant des traitements personnalisés, une précision diagnostique accrue, des coûts réduits et une amélioration de la prise de décision clinique.

Contrairement aux pipelines d’innovation en santé traditionnels, l’innovation pilotée par l’IA soulève plusieurs incertitudes centrées sur la confidentialité des données, la transparence, les biais, la responsabilité et les cadres réglementaires, qui exigent une attention particulière.

Avec la contribution croissante des agents de l’IA dans la conception pharmaceutique, relever ces défis reste crucial pour garantir une utilisation responsable de l’IA, améliorant les résultats de santé pour tous tout en maintenant la confiance envers les systèmes de santé.

Cet article cherche à explorer ces défis éthiques, en fournissant un aperçu des enjeux, des stratégies de mitigation employées et des pistes pour une innovation responsable.

Introduction : Cadrer le paysage éthique

Avant de plonger dans les dilemmes éthiques spécifiques, il est crucial de cadrer le paysage plus large dans lequel ces défis s’inscrivent, car l’innovation en santé propulsée par l’IA n’est pas une technologie monolithique.

Il s’agit plutôt d’un ensemble de systèmes et de techniques comprenant l’apprentissage profond pour l’imagerie, les modèles génératifs pour la conception de molécules, l’apprentissage par renforcement pour l’optimisation et le traitement du langage naturel pour la synthèse de nouvelles connaissances, qui créent à la fois des opportunités et des vulnérabilités.

L’apprentissage automatique, un sous-ensemble de l’IA, révolutionne la médecine moderne grâce à sa capacité à traiter de vastes ensembles de données et à reconnaître des schémas qui restent largement indétectables par les cliniciens humains.
Ces méthodes computationnelles se concentrent sur le développement d’algorithmes spécialisés, apprenant des données et améliorant les prédictions au fil du temps.

Au-delà de la découverte de médicaments, l’IA transforme agressivement d’autres secteurs de la santé, améliorant les soins aux patients dans de multiples domaines, y compris la neurologie.

Ces outils interagissent avec des données biomédicales sensibles et peuvent influencer chaque étape du pipeline de développement, de l’identification des cibles neuronales à la prédiction des réponses des patients, à une vitesse et à une échelle que les cadres traditionnels ne peuvent atteindre.

De plus, ces systèmes peuvent même détecter des schémas qui restent invisibles à l’expertise humaine. L’application de tels outils en neurologie offre un potentiel immense mais s’accompagne de défis éthiques complexes, notamment la confidentialité des données, la sécurité des patients, la prise de décision de type « boîte noire », les biais de données et les défis d’équité, les vides réglementaires, les cadres réglementaires inadéquats, la propriété intellectuelle, la propriété des données et les cas d’usage éthiques.

Les biais de données et les défis d’équité menacent l’accès à un traitement juste et efficace, tandis que la sécurité des patients est compromise par la prise de décision de type « boîte noire », posant de graves risques médicaux concernant la précision du diagnostic et la confiance des patients. Comment les cliniciens, les entrepreneurs médicaux et les chercheurs peuvent-ils exploiter les avantages de l’IA tout en évitant les défis susmentionnés liés aux biais, à la sécurité et à la confiance ?

Comprendre les dilemmes éthiques exige donc d’examiner non seulement ce que l’IA peut accomplir, mais aussi la manière dont elle redéfinit la responsabilité, l’équité et la sécurité en médecine.

Dans ce cadre, plongeons dans les défis éthiques qui doivent être relevés afin de garantir des soins de santé équitables et sûrs pour tous.

Considérations dans l’innovation en santé propulsée par l’IA

Confidentialité des données en neurologie

La confidentialité des données en neurologie est une question hautement complexe en raison de la nature sensible, identifiable et intimement personnelle des données neurales.

L’ONU définit les neurodonnées comme des informations personnelles hautement sensibles issues de la mesure, de l’enregistrement ou de la modulation de l’activité cérébrale ou des processus du système nerveux.

Elles se distinguent principalement des données de santé générales et biométriques par leur niveau d’invasivité. Les données neurales présentent un défi de sensibilité unique car ces données, y compris les images cérébrales structurelles et fonctionnelles, les enregistrements neuraux et les métriques cognitives, fournissent des aperçus des états émotionnels et des tendances inconscientes, révélant potentiellement des informations personnelles uniques.

Une telle possibilité d’inférer l’état mental ou les comportements futurs à partir de données neurales soulève d’importantes préoccupations concernant la vie privée mentale, l’autonomie et la liberté de pensée.

À cette fin, le Rapporteur spécial des Nations Unies sur le droit à la vie privée recommande de traiter les neurodonnées comme une catégorie spéciale de données personnelles sensibles bénéficiant de protections juridiques renforcées.

Les progrès rapides de la neurotechnologie pilotée par l’IA amplifient les risques d’atteinte à la vie privée et les vides réglementaires. Parmi les risques majeurs figurent la ré-identification des sujets, la divulgation non autorisée de données, ainsi que la manipulation et la commercialisation des données neurales.

De plus, le partage de données entre institutions amplifie le risque de violations de données et de ré-identification des individus. Bien que bénéfiques pour l’innovation, les neurotechnologies peuvent dépasser la simple extraction de neurodonnées pour moduler activement l’activité cérébrale, influençant les schémas de pensée et affectant potentiellement l’identité personnelle. De plus, des vides réglementaires persistent lorsqu’il s’agit de traiter les données neurales.

Actuellement, la plupart des réglementations ne considèrent les données neurales comme des données médicales que lorsqu’elles sont collectées dans un contexte clinique, ce qui s’avère inadéquat. Les applications et appareils grand public échappent largement au champ d’application des lois sur la confidentialité de la santé, tout en collectant des données neurales substantielles. Ces applications commerciales et neuro-appareils risquent d’exploiter les données neurales à des fins lucratives, avec une conscience minimale du sujet.

Bien que des progrès aient été réalisés pour fournir des protections juridiques aux données médicales, la plupart des régions manquent de réglementations explicites concernant la confidentialité et la sécurité des données neurales.
Des cadres offrant une protection réglementaire accrue et un consentement éclairé pour la collecte et l’utilisation des données neurales, tout en les reconnaissant comme une catégorie distincte, sont primordiaux.

L’implémentation de contrôles techniques avancés, notamment un chiffrement robuste, des contrôles d’accès de qualité, la minimisation des données et des stratégies d’anonymisation, peut limiter les risques d’atteinte à la vie privée.

Cela se révèle être un exercice d’équilibriste : garantir la liberté cognitive et la vie privée mentale sans étouffer l’innovation. Des contrôles trop restrictifs peuvent entraver l’avancement de la science ouverte, tandis qu’une protection insuffisante expose l’individu à des préjudices liés à la vie privée.

À mesure que les neuro-innovations passent de la recherche à la vie quotidienne, une législation adaptative, des mesures techniques avancées et des lignes directrices éthiques robustes sont primordiales pour sauvegarder l’autonomie et la vie privée mentale des individus.

Biais algorithmique

Le biais dans la santé propulsée par l’IA peut être défini comme toute différence systématique et/ou injuste dans la manière dont les prédictions sont générées pour différentes populations de patients, pouvant conduire à des prestations de soins disparates.

Les biais historiques dans les expériences de soins médicaux des populations minoritaires découlant de multiples facteurs socio-économiques, d’un accès limité aux soins et d’une allocation disparate des fonds à leurs secteurs médicaux et de santé ont un fort potentiel d’être perpétués dans les modèles d’IA via leurs ensembles de données d’entraînement.

L’un des éléments clés de la précision des profils de sécurité prédits à travers les lignes démographiques réside dans les déséquilibres inhérents aux ensembles d’entraînement. Cela conduit les modèles de prédiction à être plus performants pour les populations surreprésentées et moins performants pour les populations sous-représentées.

Deux principaux domaines de préoccupation sont les biais raciaux et sexuels spécifiques, soulevant des inquiétudes concernant les évaluations globales des risques des patients, les réponses aux traitements spécifiques au sexe et la qualité globale des soins reçus.
Ces divergences, qui ont historiquement entraîné des taux de mortalité plus élevés et des résultats de santé globalement inférieurs pour ces groupes minoritaires, si elles ne reçoivent pas l’attention nécessaire lors du développement des modèles d’IA, ont le potentiel de fausser lourdement les résultats de prédiction, affectant négativement son efficacité.

Par exemple, les données omiques collectées auprès de ces communautés peuvent être largement dépourvues de données de haute qualité ou être incomplètes, posant un défi de taille pour exploiter des ensembles de données d’entraînement robustes.

De plus, les biais spécifiques au sexe présentent une autre piste qui requiert une attention particulière. Historiquement, la recherche médicale s’est largement concentrée sur la collecte de données auprès d’individus de sexe masculin, principalement pour éviter la complexité de la conception des études et de l’interprétation des données chez les femmes en raison de leurs niveaux d’hormones variables.

Cependant, la sous-représentation des populations féminines dans la recherche clinique présente un défi critique pour l’exploitation de ces données dans des modèles de prédiction universels de l’IA, car ces déficiences inhérentes rendraient ces modèles inadéquats pour la population sous-représentée.

L’augmentation des données, la détection des biais ainsi qu’une validation régulière et une collecte de données inclusive sont quelques-unes des stratégies de mitigation que les chercheurs évaluent activement.

L’identification des sources d’inexactitude des modèles liées à des données non représentatives via des outils tels que PRISMA et PROBAST présente des stratégies pour mener une évaluation systématique des biais.

De plus, l’implémentation de l’augmentation des données, du rééchantillonnage, des stratégies d’apprentissage fédéré et autres techniques similaires peut aider à atténuer les biais dans la prédiction de la sécurité et à améliorer la représentation de populations diverses.

Une validation externe et régulière est cruciale pour découvrir et corriger les divergences dans les prédictions de sécurité des médicaments, en particulier dans des scénarios réels et diversifiés.

Enfin, le développement d’ensembles de données robustes et diversifiés sur la population ainsi que l’inclusion des populations marginalisées et minoritaires dans les études cliniques, parallèlement à des rapports transparents, sont nécessaires pour des évaluations éthiques et efficaces de la sécurité des médicaments pilotées par l’IA.

Pour envisager des soins de santé de qualité pour tous, reconnaître et atténuer les biais existants dans les systèmes de santé actuels et les pratiques de recherche médicale s’avérera vital pour développer des modèles de prédiction d’IA universels et robustes pour la médecine de précision.

Transparence, opacité et explicabilité

Les modèles de prédiction auto-apprenants sophistiqués qui testent et adaptent continuellement leurs propres procédures d’analyse peuvent présenter des défis de type « boîte noire » en matière de transparence et d’explicabilité. Les algorithmes de boîte noire sont des systèmes opaques que les cliniciens et les chercheurs ne peuvent pas examiner de près pour déterminer leurs états internes et leur fonctionnement.

De nombreux algorithmes d’apprentissage profond pour le développement de neuro-médicaments sont des boîtes noires, posant des risques de décisions inexplicables qui peuvent conduire à des erreurs difficiles à détecter, à corriger et/ou à attribuer, mettant en danger les patients par des traitements inappropriés ou des effets indésirables manqués.

Bien que les modèles causaux et bayésiens offrent une transparence accrue, les modèles d’apprentissage profond restent dominants en raison de leurs avantages de performance, ce qui soulève des inquiétudes.

La transparence et l’opacité sont deux composantes critiques qui guident la discussion entourant l’explicabilité. La transparence fait référence aux procédures algorithmiques qui rendent le fonctionnement interne d’un algorithme de boîte noire interprétable pour les humains. L’opacité, en revanche, est un concept plus complexe. Elle soutient par exemple que, si un algorithme en cours d’exécution était arrêté de manière aléatoire, aucun humain ou groupe d’humains ne pourrait rendre compte de l’état de l’algorithme ni prédire un quelconque état futur de l’algorithme après l’arrêt.

La présence d’une telle opacité mine la confiance et soulève des préoccupations épistémiques, pour répondre desquelles des cadres tels que le fiabilisme computationnel ont été présentés. Dans ce contexte, les chercheurs reconnaissent les limites cognitives humaines pour surveiller les algorithmes et tentent de contourner les préoccupations épistémiques en offrant des raisons de faire confiance à l’algorithme et à ses résultats.

Cependant, pour garantir la sécurité des patients et une confiance continue dans les pipelines d’IA de neuro-médicaments, une science ouverte et la transparence dans le développement de l’IA, incluant des codes ouverts et des normes de données claires, sont manifestement primordiales.

Les progrès récents de l’IA explicable (XAI) aident à relever ce défi en rendant les modèles d’IA de plus en plus transparentes et interprétables.

Les régulateurs incitent de plus en plus à une validation rigoureuse des modèles, tant pour la précision algorithmique que pour leur explicabilité avant le déploiement clinique, parallèlement à une réévaluation périodique avec des modèles figés avant le déploiement des mises à jour en pratique.

Ces défis continus et leurs stratégies de mitigation restent critiques pour la mise en œuvre sûre et équitable de l’IA en neuropharmacologie.

Lacunes réglementaires et considérations en neuroéthique

Suivre le rythme des progrès en neurosciences et en IA exige un cadre de gouvernance adaptatif. Ce cadre est alimenté par deux aspects profondément interliés : les lacunes réglementaires du système actuel et la neuroéthique.

Il existe un besoin mondial urgent pour que les bases philosophiques, juridiques et normatives de la réglementation des neurotechnologies reflètent un consensus sociétal sur les protections que les données neurales et l’autonomie cognitive exigent.

Les leaders d’opinion recommandent des collaborations entre la neuroéthique et l’éthique de l’IA, y compris une gouvernance participative et l’engagement des patients afin d’anticiper les problèmes émergents et de concevoir des solutions inclusives.
L’expérimentation de modèles de gouvernance avec des bacs à sable réglementaires (sandboxes) ou des incubateurs peut présenter une piste pour évaluer ces cadres à faible enjeu, avant un déploiement sociétal à grande échelle.

Les lacunes réglementaires actuelles concernant l’innovation pilotée par l’IA se manifestent sous la forme de cadres statiques pour une technologie dynamique, où des modèles tels que le processus 510(k) de la FDA ont été conçus pour des produits médicaux statiques et sont mal adaptés aux technologies en constante évolution et adaptation comme l’IA.

De plus, les cadres actuels ignorent largement la dérive de performance (performance drift), c’est-à-dire les changements dans la précision et/ou la sécurité de l’algorithme après exposition à de nouvelles données du monde réel, ce qui compromet la sécurité des patients et la confiance.

À l’échelle mondiale, le manque de consensus réglementaire transnational entrave le déploiement international et la cohérence des garanties.

Ces défis nécessitent des cadres de gestion du changement robustes, à savoir des directives claires sur le moment où des examens réglementaires sont justifiés, des audits de performance et des revalidations périodiques, pour garantir la confiance de la société envers les organismes de réglementation.

Propriété des données, propriété intellectuelle et responsabilité

Un autre aspect clé de la neuro-innovation réside dans la discussion autour de la propriété des données, de la propriété intellectuelle (PI) et de la responsabilité. Elle présente des défis éthiques et juridiques centraux en raison de la complexité entourant le contrôle des données des patients, les droits sur l’innovation générée par l’IA et la responsabilité face aux décisions algorithmiques.

L’ambiguïté domine la discussion sur la propriété des données car les modèles d’IA s’appuient sur de grands ensembles de données fournis par les patients pour l’innovation en santé. Cependant, les entreprises privées et les institutions de santé contrôlent et traitent principalement ces données, sans reconnaissance juridique forte de la propriété des données par les patients. Le consentement éclairé présente un autre défi car les cadres qui l’entourent sont largement inadéquats.

Lorsque le consentement est donné, le patient ne comprend et ne conçoit pas nécessairement les manières dont les données pourraient être exploitées. Des utilisations secondaires, telles que l’entraînement de modèles pour d’autres questions de recherche, peuvent survenir sans la connaissance explicite du patient. Cela soulève d’importantes préoccupations éthiques concernant l’autonomie des patients et l’exploitation des données.

Troisièmement, comme les droits de propriété des données ne sont pas harmonisés de manière uniforme à l’échelle mondiale, il existe un risque de développement de silos de données ainsi qu’une réticence potentielle à partager les informations entre organisations, posant un obstacle à l’avancement de la science ouverte et à un accès équitable.

Pour y répondre, des chercheurs ont présenté des solutions centrées sur le patient impliquant l’utilisation de fiducies de données (data trusts), donnant aux utilisateurs plus de contrôle, de transparence et des intérêts financiers potentiels lorsque leurs données sont utilisées pour l’innovation en santé.

De plus, l’innovation pilotée par l’IA met au défi les cadres traditionnels de propriété intellectuelle qui partent du principe que les inventions sont créées par des humains. Comme les bureaux de brevets dans la plupart des pays ne reconnaissent pas les systèmes d’IA comme inventeurs, cette incertitude quant à la brevetabilité menace le rythme de l’innovation et les investissements dans ces pipelines d’innovation. Les litiges concernant la reconnaissance des découvertes assistées par l’IA, leur brevetabilité et leur propriété confondent les licences et la commercialisation.

Enfin, l’innovation pilotée par l’IA présente un défi de responsabilité et de redevabilité à plusieurs niveaux pour les cas de prédictions, de recommandations ou de diagnostics erronés. L’attribution équitable de la responsabilité ainsi que les moyens de recours s’avèrent être un défi important, car les cadres juridiques actuels se révèlent inadéquats pour traiter de tels scénarios.
Des pistes de décision auditables, l’explicabilité algorithmique, la surveillance post-marché, la validation indépendante périodique, des modèles de responsabilité partagée et une supervision réglementaire robuste pourraient s’avérer primordiaux pour clarifier les responsabilités, minimiser les risques et assurer la sécurité des patients.

Les dilemmes soulevés par l’innovation en santé pilotée par l’IA sont des défis pressants du monde réel qui émergent déjà dans le paysage pharmaceutique. Les questions de liberté cognitive, de vie privée mentale, de confiance, de responsabilité et de transparence restent centrales.

De plus, ces défis dans le contexte de la neurologie présentent des risques psychologiques et sociétaux supplémentaires, mettant en lumière le paradoxe de l’IA qui s’avère être à la fois la solution à certaines des questions les plus difficiles de la neurologie et la génératrice de nouveaux dilemmes éthiques, moraux et réglementaires.

Répondre à ce paradoxe exige non pas un patchwork de mises à jour incrémentielles des politiques réglementaires, mais plutôt une réimagination de la manière dont l’innovation, la commercialisation, la réglementation et l’éthique peuvent évoluer et opérer ensemble.

Conclusion

L’IA devient rapidement un co-inventeur dans l’innovation en santé, en particulier dans le domaine de la neurologie. Sa capacité à accélérer les percées recèle un potentiel extraordinaire pour traiter des maladies neurologiques débilitantes.

Cependant, sans une surveillance attentive, ces outils pourraient potentiellement porter atteinte à la liberté cognitive humaine, à l’autonomie et à la vie privée mentale. Il appartient aux régulateurs, aux cliniciens, aux développeurs, aux chercheurs, aux entreprises et à la société dans son ensemble de développer de nouveaux cadres, de définir les limites éthiques d’une utilisation responsable et de s’engager en faveur de l’équité et de la transparence.

De plus, l’harmonisation de ces efforts et des réglementations au niveau mondial exigera une coopération et une collaboration transnationales. L’avenir de la neurologie et des avancées pilotées par l’IA dépendra non seulement des progrès technologiques, mais aussi de la confiance de la société.

Pour garantir que l’IA reste un allié dans l’avancement des soins de santé pour tous, nous devons veiller à ce que son rôle dans le façonnement de l’avenir du cerveau soit gouverné par des principes aussi rigoureux et innovants que la technologie elle-même.