- hier
Mercredi 16 juillet 2025, retrouvez Laurène Zaggia (Avocate, Osborne Clarke) dans LEX INSIDE, une émission présentée par Arnaud Dumourier.
Catégorie
🗞
NewsTranscription
00:00On poursuit ce Lex Inside, on va parler conformité au RGPD et au règlement sur l'IA dans le domaine de la santé
00:17avec mon invité Lorraine Zaglia, avocate chez Osborne Clark.
00:21Lorraine Zaglia, bonjour.
00:23Bonjour Arnaud.
00:23Alors on va évoquer ensemble les défis de conformité au RGPD et au règlement sur l'IA dans le domaine de la santé.
00:31Pour commencer, quels sont les enjeux de conformité au règlement sur l'IA et au RGPD dans le domaine de la santé ?
00:38Alors je dirais que l'enjeu principal, il est commun aux deux réglementations, c'est la transparence.
00:43Il faut informer les patients de ce qu'on fait avec leurs données de santé.
00:47Il faut leur dire et il faut leur dire qu'on va entraîner un algorithme d'IA, développer un système d'IA avec leurs données, c'est clé.
00:56Donc en premier lieu, bien informer les patients de l'utilisation des données, c'est vraiment le conseil de base.
01:03Exactement, c'est clé.
01:05Alors l'utilisation de l'IA sur les bases de données des patients soulève de nombreuses questions.
01:11Est-ce qu'il est possible d'utiliser l'IA sur les bases de données existantes qui comprennent les données de patients ?
01:17Alors en théorie, c'est tout à fait possible.
01:20Après, il y a des obstacles qui sont assez difficiles à franchir.
01:24Je pense qu'on va en reparler.
01:26Mais c'est vrai qu'au cabinet, on a de plus en plus de clients qui nous demandent des conseils pour utiliser des bases historiques
01:34qui proviennent d'essais d'études cliniques, les réutiliser avec de l'IA.
01:39Donc on les conseille sur ce type de problématiques.
01:42C'est quoi les enjeux ? Pourquoi on veut utiliser ces bases de données concrètement ?
01:46Parce qu'elles sont fiables.
01:47Elles ont été effectivement collectées grâce à des essais et des études cliniques.
01:53Et il y a un vrai enjeu de fiabilité de la base de données.
01:55C'est vrai que pour la santé, on ne peut pas faire du web scrapping sur Internet par exemple.
02:00Ça, ce n'est pas possible.
02:01Donc trouver un socle fiable, c'est très important.
02:04Donc pour l'intelligence artificielle, ce qui est important, c'est justement d'alimenter l'intelligence artificielle avec des données.
02:11Et on sait que les données de santé, c'est des données sensibles.
02:15Alors si une entreprise souhaite réutiliser des données historiques relatives à la santé
02:19pour le développement et l'entraînement d'une intelligence artificielle,
02:23quels sont les principaux obstacles ?
02:26Alors, il y en a trois, je dirais.
02:30C'est assez compliqué, donc je vais essayer de partir d'un exemple.
02:33On prend l'exemple d'un client qui veut réutiliser des données de santé d'ordonnances.
02:39Il les détient légitimement.
02:41Les trois obstacles, ça va être d'abord le principe de limitation des finalités.
02:45Les ordonnances, elles ont été collectées pour une finalité bien particulière,
02:50la prescription de soins.
02:52Donc est-ce qu'on peut faire de l'IA sur ces ordonnances ?
02:56En principe, non, parce qu'on a communiqué aux patients qu'on allait juste traiter leurs ordonnances pour fournir des soins.
03:02Donc on est dans de l'usage secondaire de la donnée.
03:05Et qu'est-ce qu'on fait dans ce cas-là ?
03:06Il va falloir faire un test de compatibilité des finalités.
03:09Ça veut dire quoi ?
03:10Ça veut dire est-ce que les anciennes finalités, la prescription de soins,
03:17est compatible avec les nouvelles finalités utilisées l'IA ?
03:20Et si on n'arrive pas à relier ces finalités-là,
03:22on n'a pas le choix, on va devoir demander le consentement du patient.
03:26Les deux autres obstacles, c'est trouver une base légale.
03:28Ça, c'est un standard dans le RGPD.
03:32Donc on est plutôt sur l'intérêt légitime ici.
03:35Et l'intérêt légitime notamment du patient, c'est la guérison en fait.
03:39C'est d'être guéri, d'avoir de meilleurs traitements.
03:41Et l'IA peut vraiment favoriser la recherche et trouver de nouveaux traitements finalement.
03:48Et le dernier obstacle, c'est en matière de données de santé,
03:51il y a une interdiction de collecte de ces données de santé,
03:54sauf si on trouve une exception.
03:56Donc on va devoir trouver...
03:57Quel type d'exception ?
03:58Eh bien, le consentement par exemple, la recherche scientifique,
04:02ou l'intérêt public et la santé publique.
04:05Donc il y a ces trois obstacles-là, c'est pas facile,
04:09mais il y a quand même des alternatives, il me semble.
04:11Alors justement, si on n'arrive pas à lever ces obstacles,
04:15quelles sont les alternatives ?
04:17Alors je reprends le cas de mon client qui veut traiter des données d'ordonnance qu'il détient.
04:23C'est un cas qu'on a eu au cabinet.
04:26On n'a pas réussi à retrouver les patients,
04:29on n'a pas pu leur demander leur consentement.
04:31Donc ce qu'on a conseillé au client, c'est d'anonymiser les données.
04:37Donc l'anonymisation, c'est une solution.
04:40On retire le nom, le prénom.
04:43Après, dans le domaine de la santé, ce sont des données qui sont si uniques,
04:46parce qu'un traitement, notamment dans les maladies rares,
04:49il n'y en a qu'un par patient en fait.
04:51Donc c'est dur d'arriver à une anonymisation parfaite.
04:55Autre solution, les données synthétiques.
04:58C'est quelque chose qu'on voit de plus en plus.
05:00En fait, les données synthétiques, c'est la création de données
05:03à partir de données réelles, mais on ne les rattache pas à un patient.
05:10Donc le RGPD ne s'applique pas.
05:12D'accord.
05:13Et juste un petit aparté, on a des essais cliniques là qui ont été autorisés,
05:18avec des bras de contrôle synthétique.
05:20Donc c'est des cohortes patients,
05:22c'est ceux qui vont recevoir le meilleur traitement en fait.
05:25Ils sont remplacés par des données de sources externes
05:28et ça a été autorisé là par les autorités.
05:30Donc la FDA et l'IMIA en Europe.
05:33D'accord.
05:33Alors il y a une autre technique qui est utilisée dans le domaine de la santé,
05:37c'est le jumelage numérique.
05:39On va s'intéresser aux précautions à prendre en la matière.
05:43Quelles sont les bonnes pratiques à respecter
05:45pour assurer la conformité d'un processus de jumelage numérique des patients ?
05:49Alors le jumelage numérique, c'est les Digital Twins.
05:52Donc qu'est-ce que c'est ?
05:53C'est la virtualisation d'un objet ou d'un humain
05:57à partir de données en temps réel qui sont captées.
06:01Donc on utilise ces techniques pour créer un patient artificiel.
06:06La différence avec le patient synthétique,
06:08c'est que le patient artificiel,
06:09il est créé à partir de données d'un autre patient qui existe ou qui a existé.
06:15Donc les enjeux, ça va être d'obtenir le consentement du patient zéro,
06:21du patient source et de l'informer qu'on va créer un patient artificiel avec ces données.
06:26En revanche, ce qui est utile, c'est que ce nouveau patient,
06:30le patient artificiel, lui, il n'existe pas.
06:34Donc le RGPD ne s'applique pas.
06:35On n'a pas besoin de lui demander son consentement par exemple.
06:38Ce qu'on recommande aussi, c'est d'anonymiser les données quand même du patient source,
06:42du patient zéro.
06:43Et surtout, il faut une supervision médicale systématique.
06:46On ne peut pas laisser l'IA sans supervision d'un médecin.
06:51Alors on va s'intéresser à d'autres bonnes pratiques,
06:54les bonnes pratiques à respecter pour utiliser l'IA sur les données de patients existantes.
06:59Quelles sont-elles ?
07:00Alors, on en a parlé au tout début, c'est effectivement l'information du patient.
07:05Il doit savoir qu'on va entraîner et développer un algorithme IA avec ces données.
07:11Le problème, c'est qu'il y a certains patients, c'est des données anonymes, on ne les retrouve pas.
07:16Donc comment on fait pour contacter, pour informer ces patients ?
07:19C'est un vrai challenge.
07:21Surtout que le corollaire à ça, c'est qu'il doit pouvoir exercer ses droits, le patient.
07:25Et donc, son droit d'accès, il doit pouvoir l'exercer.
07:30Il y a quelques exceptions, mais là, on ne rentre pas forcément dans ce cadre-là.
07:36Alors, un dernier point que j'aimerais évoquer, c'est la question de la responsabilité de l'IA en cas d'erreur de diagnostic.
07:43On sait que les IA peuvent halluciner.
07:47Qu'est-ce qui se passe en cas d'erreur de diagnostic qui serait produite par l'IA ?
07:51Alors, c'est une question très intéressante et c'est une problématique qui va bien nous occuper, je pense,
07:57parce que le médecin, même s'il prend une décision assistée par l'IA, reste responsable.
08:03L'établissement de soins, l'hôpital, d'un point de vue RGPD, il est responsable de traitement.
08:08C'est lui qui décide quel est le meilleur soin pour son patient.
08:11Et le fournisseur de l'IA, lui, il a des exigences de conformité, de l'évaluation, de la surveillance après la mise sur le marché.
08:19Donc, pour l'instant, Arnaud, je ne sais pas vous répondre.
08:21Ça va être vraiment du cas par cas, mais c'est sûr qu'on va avoir des débats très intéressants sur un partage de responsabilités entre ces trois acteurs.
08:29Et c'est un point qu'il faudra trancher parce qu'après, effectivement, il y a un préjudice et donc il faut bien indemniser les victimes.
08:35Exactement, exactement.
08:36On va conclure là-dessus. Merci, Lorenza Gia. Je rappelle que vous êtes avocate au sein d'Osborne Clark.
08:42Merci à vous.
08:43Tout de suite, l'émission continue. On va s'intéresser maintenant à de la fiscalité.
08:48On va s'intéresser plus particulièrement à la nouvelle jurisprudence sur le calcul de la taxe foncière des centrales photovolcaïques ou éoliennes.
Recommandations
1:36
|
À suivre
8:14
26:29
9:17
28:35
9:13
30:43
27:48
27:42
27:04
28:39
29:16