LEX INSIDE - Reconnaissance faciale. Défis techniques, juridiques et éthiques

B SMART

21/11/2024

Reconnaissance faciale. Défis techniques, juridiques et éthiques avec Anne Brunon-Ernst, Professeure, Université Paris-Panthéon-Assas.

Catégorie

🗞

News

Transcription

Afficher la transcription complète de la vidéo

00:00On poursuit ce LexInside, on parle reconnaissance faciale avec Anne-Brunon Hertz, co-directrice

00:16de l'ouvrage Reconnaissance faciale, défis techniques, juridiques et éthiques, publié

00:22aux éditions Panthéon-Assas.

00:24Anne-Brunon Hertz, bonjour ! Bonjour, merci de l'invitation.

00:28La reconnaissance faciale suscite à la fois fascination et méfiance.

00:33Nous allons voir ensemble les défis que pose la reconnaissance faciale, mais tout d'abord,

00:38pouvez-vous nous présenter votre ouvrage ?

00:40Alors, l'ouvrage est issu d'une collaboration dans le cadre d'un colloque qui a été fait

00:47à l'université Panthéon-Assas, c'est un ouvrage qui est issu d'un travail de recherche

00:54initié par l'équipe Law and Humanities.

00:59L'intérêt de cet ouvrage, c'est qu'il est pluridisciplinaire, c'est-à-dire qu'il

01:01convoque des spécialistes de divers champs disciplinaires, comme la science informatique,

01:10le droit, la philosophie, la sémiotique, mais aussi les études américaines et la

01:15philosophie, ce qui nous permet d'avoir une vision plus complète de cette notion très

01:22sous-complexe qu'est la reconnaissance faciale.

01:25Alors, on va rentrer dans le vif du sujet.

01:27Quelle est la définition de la reconnaissance faciale et comment ces avatars, comme la

01:32surveillance algorithmique, s'en distinguent ?

01:34La reconnaissance faciale peut être définie comme une technologie informatique qui permet

01:40de reconnaître automatiquement une personne à partir de son visage.

01:44Et il faut distinguer la reconnaissance faciale d'autres termes qui circulent, tels que vidéo

01:50surveillance augmentée ou automatisée ou intelligente.

01:54Et dans ce cas-là, l'objectif est uniquement de détecter des événements en temps réel

02:01dans l'espace public et non de détecter des visages.

02:04D'accord.

02:05Alors là, on a bien cernesqué la reconnaissance faciale, mais pour bien comprendre les enjeux,

02:11on va s'intéresser à son fonctionnement.

02:12Alors, comment ça fonctionne ?

02:13Alors, c'est très simple.

02:15L'objectif est double.

02:16Il s'agit d'identifier et d'authentifier.

02:20Identifier, c'est poser la question « qui est la personne X ? » et authentifier, c'est

02:26« êtes-vous bien la personne que vous prétendez être ? »

02:28Il y a quatre étapes.

02:30La première étape, il s'agit d'acquérir une image.

02:33La deuxième étape, il s'agit d'extraire les caractéristiques du visage.

02:38La troisième étape, ensuite, il faut encoder cette image avant, dans une quatrième partie

02:44ou une quatrième étape, de la comparer à un stock d'images dans une base de données.

02:50Alors, on va s'intéresser aux problématiques juridiques.

02:53Quelles sont les questions juridiques soulevées dans l'ouvrage ?

02:56Alors, il y a deux problèmes, en fait, que pose la reconnaissance faciale.

03:01Le premier, c'est que la reconnaissance faciale permet d'être reconnue sans le vouloir.

03:06Et ensuite, elle permet de récupérer des données sur le visage.

03:10D'accord.

03:11Pour ça, ça soulève un certain nombre de questions juridiques qui sont de deux ordres.

03:15La première, c'est la question du consentement.

03:17Et la deuxième, c'est la question des droits fondamentaux.

03:20Sur la question du consentement, déjà, ces technologies sont qualifiées de silencieuses

03:29parce qu'en fait, elles permettent d'opérer à distance et indépendamment d'une action

03:34quelconque de l'individu qui est ainsi surveillé.

03:37D'accord.

03:38Et comme elles sont déployées dans des lieux accessibles au public, le problème,

03:43c'est que l'individu ne peut pas consentir à leur utilisation et il ne peut pas non

03:47plus s'y soustraire.

03:49Et donc, ça, ça pose effectivement la question du consentement qui, pour rappel, est effectivement

03:54un des fondements qui est prévu pour le traitement des données personnelles dans le RGPD.

04:00Ensuite, sur la deuxième question, qui est la question des droits fondamentaux, la singularité

04:07de la reconnaissance faciale, c'est que lorsqu'elle est utilisée dans l'espace

04:11public, elle a un effet dissuasif.

04:13C'est-à-dire qu'elle peut avoir un effet dissuasif dans l'exercice d'un certain

04:19nombre de droits fondamentaux qui sont la liberté d'expression, d'association,

04:24d'aller et venir, d'assembler.

04:26Et ça, bien sûr, ça contrevient et c'est une restriction inacceptable à un certain

04:31nombre de libertés qui sont protégées au titre d'un certain nombre de textes, dont

04:35la Charte des droits fondamentaux de l'Union européenne, pour ne citer qu'elle.

04:38Un autre problème qui en découle aussi, c'est le problème des faux négatifs, c'est-à-dire

04:44qu'une personne n'est pas reconnue, donc exposée à des sanctions qui peuvent porter

04:49atteinte à sa dignité.

04:51Et dans ce cas-là, on est dans des cas de discrimination et la question des biais algorithmiques,

04:58qu'ils soient des biais sexistes et ratio, est bien documentée.

05:02Alors, on voit que les questions juridiques sont nombreuses.

05:05Un autre aspect qui est intéressant, ce sont les enjeux liés à cette technologie.

05:10Quels sont les enjeux de la réglementation de la reconnaissance faciale ?

05:15Alors, les conditions de mise en œuvre de la reconnaissance faciale s'appuient sur

05:20une pratique sociale, qui en France est renforcée par une obligation légale, qui est celle

05:25de se déplacer à visage découvert dans l'espace public.

05:30Et cette pratique, qui est assez couramment partagée, finalement s'oppose à un cadre

05:39réglementaire qui varie énormément d'un pays à l'autre.

05:43Alors, c'est assez difficile de détailler ces pratiques, ces cadres légaux en si peu

05:50de temps, mais on peut prendre deux exemples.

05:52On peut prendre l'exemple de l'Union européenne et l'exemple des États-Unis.

05:55Alors, sur la question de l'Union européenne, il est relativement intéressant de voir que

06:00l'Union européenne est en train de mettre en place un cadre réglementaire sur l'intelligence

06:07artificielle, qui s'appelle l'AI Act, oui tout à fait, et qui interdit l'utilisation

06:14de systèmes biométriques à distance, en temps réel, dans des espaces accessibles

06:20au public, à des fins répressives.

06:22Mais cette interdiction est assortie d'un certain nombre d'exceptions, qui sont au

06:26nombre de trois, lorsque la recherche est ciblée et spécifique de victimes.

06:32La deuxième, c'est la prévention d'une menace spécifique type terroriste, et la

06:38troisième, c'est la localisation ou l'identification d'une personne soupçonnée d'avoir commis

06:43une infraction pénale.

06:44C'est aux États maintenant de préciser les cas dans lesquels ces exceptions vont s'appliquer

06:51et ensuite, elles seront subordonnées à une autorisation préalable.

06:55Sur le cas des États-Unis, alors là, on est dans un paradigme totalement différent

06:59parce qu'il n'y a pas de loi fédérale réglementant l'utilisation de la reconnaissance

07:05faciale.

07:06D'accord, alors comment ça se passe ? Alors, comment ça se passe ? Tout se passe

07:09au niveau des États, des comtés ou des villes, et on dénombre à ce jour environ une vingtaine

07:16de lois qui réglementent l'utilisation de la reconnaissance faciale.

07:21Ce qui fait qu'on a un panel très large qui va de la loi de 2008 de l'État de l'Illinois

07:29qui limite l'usage des données biométriques et qui les base sur une nécessité du consentement

07:37des individus dont les données sont ainsi collectées.

07:40Et de l'autre côté du spectre, on va avoir l'État de New York qui utilise la reconnaissance

07:46faciale.

07:47D'accord, donc on va du tout au tout ? Du tout au tout, tout à fait.

07:50Alors, si on regarde un peu plus précisément chez les États qui légifèrent sur ces questions-là,

07:57on voit qu'il y a un mouvement de balancier qui est assez intéressant.

07:59Donc, il y a une première vague d'interdiction qui fait suite aux émeutes qui suivent la

08:05mort de George Floyd en mai 2020, parce qu'en fait les manifestations mettent en avant le

08:12fait que la police aurait utilisé ces données collectées, non pas pour prévenir des actes

08:19criminels, mais pour contrôler les activités politiques des manifestants.

08:24Le retour en grâce des technologies de reconnaissance faciale se fait un an plus tard, on est en

08:33juin 2021, et là c'est les incidents des émeutes du Capitole qui montrent que finalement

08:42la reconnaissance faciale est particulièrement efficace pour reconnaître les émeutiers,

08:50en se servant bien entendu de la reconnaissance faciale, des images qui sont collectées via

08:55les caméras de vidéosurveillance, les vidéos des journalistes et des policiers, mais aussi

09:00des images collectées sur les réseaux sociaux.

09:03Pour terminer, en quelques mots, quelles sont les alternatives juridiques au cadre que vous

09:08venez de décrire ?

09:09Alors, j'en déclinerai une.

09:13Je pense que d'abord il faut se rendre compte qu'il y a un certain consensus autour de

09:19la réglementation de la reconnaissance faciale.

09:23Ce consensus, c'est de dire qu'il n'est pas possible d'interdire absolument.

09:28Donc le rôle du législateur, finalement, il se limite à mettre en balance les avantages

09:34et les risques sociaux, de manière à rendre ces technologies acceptables.

09:38L'objectif de l'ouvrage, c'est de montrer que peut-être il y a une autre voie qu'on

09:43pourrait peut-être explorer, qui est celle de l'anonymat.

09:46L'anonymat n'est pas de supprimer ou de cacher l'ensemble des traits caractéristiques

09:51d'une personne, mais d'empêcher leur mise en correspondance.

09:55Un exemple.

09:56Et on terminera sur cet exemple.

09:59Voilà.

10:00Lorsque vous avez un échantillon de sang, cet échantillon de sang est labellisé avec

10:05un numéro qui vous identifie, mais qui vous identifie dans une sphère spécifique.

10:11Et donc finalement, un droit à l'anonymat serait peut-être une manière de protéger

10:17les libertés individuelles.

10:19On va conclure là-dessus.

10:20Merci d'être venu sur notre plateau.

10:21Et tout de suite, la troisième partie, on va parler beaux commerciaux.

Recommandations