- 24/06/2025
Le 23 janvier 2019, découvrez comment l’intelligence artificielle révolutionne nos vies, entre défis majeurs et opportunités inédites.
Catégorie
📚
ÉducationTranscription
00:00Je vais vous passer la parole dans quelques instants, mais je voulais quand même faire réagir les uns et les autres sur des points que vous avez mis en avant, en conclusion, toutes ces questions transverses.
00:10On a commencé à parler d'éthique. On a parlé de la gestion des données. C'est souvent quelque chose, Lionel Jannin, qui vient souvent en avant.
00:17Quand on parle d'intelligence artificielle, on remet sans arrêt en avant la question de la gestion des données, la sécurité. Quel est votre point de vue ?
00:25On peut déjà noter que sur les données en général, pendant les années, les dizaines d'années ou la vingtaine d'années qui s'est passée, les particuliers ont très largement laissé leurs données circuler.
00:42Après, il y a la question de jusqu'à quel point ils en étaient conscients. Probablement que dans certains cercles, il y a pas mal d'explications en disant que quand ce service qui est gratuit, vos données sont utilisées.
00:51On l'évoquait le cas des enceintes. Donc on a déjà cette historique et beaucoup de ces données, elles ont été données finalement en disant que le service que je reçois en échange, il vaut ces données-là qui racontent peut-être pas tant de choses de ma part.
01:05Donc après, à l'avenir, on voit que les sources pour capter ces données avec ces outils d'intelligence artificielle, c'est-à-dire un véhicule, un moindre frigo qui se met à vous parler, les enceintes,
01:14ils vont commencer à capter non pas simplement des choses que je poste moi-même sur lesquelles, comme disait Laurence, on a une certaine compréhension de ce qui se passe,
01:21mais des choses sur lesquelles on n'a plus de compréhension. C'est la limite, je me promène dans la rue, la caméra me détecte, c'est ce que je fais, elle sait aussi à quel endroit je vais,
01:28elle sait qu'est-ce qu'il y a à cet endroit-là. Donc l'intégralité de mes déplacements est connue.
01:32Donc on peut imaginer qu'effectivement il y a une conscience plus grande des personnes sur le... qu'est-ce qu'il arrive à leur donner.
01:39A titre personnel, je pense qu'on va quand même continuer à accepter beaucoup de laisser partir des données,
01:44ce qui va mettre finalement beaucoup de poids sur les quelques outils de régulation qu'on va disposer, c'est-à-dire que si jamais, par hasard,
01:49une compagnie d'assurance se met à vouloir utiliser des données de disons, bah écoutez, je vous ai regardé, vous êtes malade, regardez votre teint et autres,
01:56donc je ne vous fais pas le même tarif. Il y a des moments où je pense qu'on va... Enfin, il y a des cas où on dira, bah j'accepte,
02:02certains audits, par exemple, si on me dit, bah, vous n'êtes pas très bien, il y a un risque de cancer, je pense que les gens accepteront finalement que ce soit utilisé,
02:10si c'est pour augmenter leur prime d'assurance, il y aura peut-être des réactions. Et donc je pense que ce sera... qu'il y aura toujours beaucoup de données qui vont circuler,
02:17mais qu'il y aura un certain nombre de points particuliers sur lesquels il y aura une crispation plus grande, probablement sur certaines questions de discrimination aussi,
02:25mais la capacité à expertiser ces questions-là, elle est encore largement à construire. Pour démontrer que vous avez été victime d'une forme de discrimination,
02:32ça ne va pas être facile, on n'est pas encore très équipé pour le faire.
02:35Alors pour justement, on va dire positif, parce qu'on a parlé beaucoup de peur, de fantasme, on le voit bien, c'est quand même complexe cette question des données.
02:42J'ai vu une étude de chercheurs de l'université de Berkeley qui disent qu'aucun pays ne détient à l'heure actuelle de réglementation suffisante
02:48pour bien protéger les données personnelles. Donc on ne cesse aussi d'alimenter quand même ces angoisses.
02:53Oui, alors l'Europe s'est quand même dotée il y a un an maintenant du règlement général sur la protection des données,
03:00qui, d'une certaine manière, il a énormément de défauts que plein de gens ne soient pas assez protecteurs, soient trop soumis, soient trop d'exceptions et autres.
03:09Moi je reste trappé à l'échelle du ministère par le fait que ça nous amène à nous reposer des questions sur comment ces données circulent,
03:15et ça augmente un niveau de conscience, et je pense qu'il est pareil aussi sur les entreprises,
03:18qui sont amenées à dire, je vais essayer de le contourner ou autre, mais elles sont obligées d'avoir un bouton, dites-moi ce que vous avez sur moi, déconnectez-moi.
03:26Donc je pense qu'on a quand même un centre d'outils, alors après leur efficacité, elle reste à voir sur la longue durée,
03:31mais on a des outils qui visent en tout cas cette finalité-là, donc je ne serais pas spécialement pessimiste sur cette question-là.
03:40Alors Laurence De Villers, sur cette question aussi de gestion des données et de sécurité, d'ailleurs vous avez abordé déjà.
03:44Oui, je pense que c'est une très bonne chose, le RGPD ou le GDPR, je ne sais plus si en anglais ou en français,
03:50en tout cas même les Américains nous disent que c'est bien, donc il faut s'amuser aussi à regarder l'impact que ça a eu,
03:57ça a eu plutôt un impact positif, mais je pense qu'il faut encore une fois se retrouver dans un équilibre,
04:03c'est-à-dire que moi je parle d'éctique, ce n'est pas pour pousser les gens à ne plus donner leurs données,
04:06ce n'est pas du tout ça, c'est pour être conscient de ce qu'on est en train de faire.
04:09Et il faudrait justement avoir confiance en une chose, en tout cas en Europe,
04:14qu'on est en train de vouloir monter en compétence sur le domaine de la santé par exemple,
04:18et qu'il y a des données qui seraient partagées, pour qu'on arrive effectivement à profiter au moins d'un essor
04:24sur certains domaines où on puisse être leader.
04:27Donc je pense qu'il y a une carte à jouer en Europe sur la santé,
04:29on a déjà un lourd passé qui montre qu'on a su gérer des choses que n'ont pas su gérer d'autres pays,
04:36et du coup voilà, il faut bien faire attention à ce qu'on dit dans les données.
04:40D'abord, vos données ne vous appartiennent pas, les données on en a toujours fait,
04:43et on ne va pas les vendre.
04:47Donc ce sont des choses qu'on veut réguler pour ne pas avoir de problèmes nous-mêmes,
04:52qu'on ne nous manipule pas, etc.
04:53Mais aussi il faut avoir conscience que dans la société, on a un rôle à jouer, à les mettre en commun.
04:59Et donc il y a à la fois des communs à construire sur les données, dont on ne devrait plus parler,
05:03et puis en même temps ne pas admettre que le système chinois-américain qui est dans votre maison
05:10vous enregistre totalement tout le temps sans qu'il n'y ait aucun garde-fou là-dessus.
05:14C'est les fameuses différences culturelles aussi d'en parler,
05:16parce que nous on n'a pas la même approche en Europe qu'on peut l'avoir en Asie, qu'on peut l'avoir aux Etats-Unis.
05:20D'ailleurs la première chose que j'aurais envie de vous poser sur la voiture,
05:23que j'ai entendue de la part de collègues qui travaillent dans des comités d'éthique sur la bioéthique,
05:27c'est la notion de personne, parce qu'on n'a pas les mêmes définitions déjà.
05:32Qu'est-ce qu'une personne en Chine ?
05:35Vous qui travaillez en Chine justement.
05:38La Chine est une personne à elle entière.
05:42Chaque citoyen est un composant de la personne chinoise.
05:46Non j'exagère.
05:48Mais en effet, pour rebondir sur cette question des données,
05:53on a parlé de la RGPD, donc moi ce qui me semble vraiment surtout important,
05:58c'est comment le règlement il est appliqué, c'est-à-dire qu'avant en fait à la CNIL,
06:01au niveau de la France, on avait déjà un règlement qui était quand même relativement strict,
06:05donc qui était déjà relativement bien encadré,
06:08mais avec des amendes finalement qui étaient assez faibles,
06:09donc des grandes entreprises n'hésitaient pas à enfreindre, à passer outre.
06:14Donc là avec la RGPD, j'ai l'impression que c'est un peu différent,
06:16avec une belle amende qui a été donnée à Google tout récemment.
06:21Donc j'ai l'impression que ça a évolué un peu différent.
06:2250 millions je crois ?
06:23Oui, 50 millions, il me semble.
06:2450 millions.
06:24Et à l'inverse, en Chine, le règlement sur la protection des données...
06:27C'est pas grand-chose pour Google, 50 millions.
06:29C'est pas grand-chose pour Google.
06:30C'est pas grand-chose, mais avant avec la CNIL, c'était vraiment une goutte d'eau.
06:33Non, non, je suis présente.
06:34C'est...
06:35Et en Chine, en fait, le règlement de protection des données,
06:41il est aussi extrêmement fort, donc j'ai lu sa version traduite,
06:44et il y a énormément d'articles qui sont similaires à ce qu'on trouve dans la RGPD,
06:48mais en fait il est appliqué de manière complètement différente,
06:50c'est-à-dire que les entreprises, évidemment, elles vont pas pouvoir faire ce qui est interdit par la loi,
06:55mais le gouvernement, en central, lui, a un accès qui est...
06:58Voilà, un accès à tout, mais vraiment à tout.
07:01Et pour revenir plus à la question du domaine automobile,
07:05il faut faire présentation aux données que l'on va transférer,
07:08parce qu'on nous dit, en tout cas ce que dit la CNIL, par exemple,
07:10ça va être « je veux pas de données géolocalisées ».
07:12Ça, c'est pas possible, parce qu'à partir des données géolocalisées,
07:16on peut savoir où vous habitez, où vous travaillez,
07:18où vous faites vos courses, où habite votre maîtresse ou votre amant, etc.
07:21Enfin, voilà.
07:22Mais quelque part, on l'a dans son portable, aussi.
07:24On l'a aussi dans son portable.
07:27Mais dans le cas du véhicule, il y a autre chose,
07:31c'est qu'on est capable de reconstruire, à partir d'autres données,
07:34on est capable de reconstruire une trace GPS.
07:36Donc il y a des travaux qui existent là-dessus, de reconnaissance.
07:39Donc si j'ai une trace, par exemple, accélérométrique suffisamment précise,
07:43je peux réussir à retrouver un profil
07:45et à essayer de faire une correspondance sur une carte.
07:47Donc on a quand même des choses assez dangereuses.
07:50Donc je crois que vous l'avez abordé un peu dans votre présentation,
07:53de dire attention aux données qui permettent de remonter à d'autres données.
07:58Donc dans le cas d'automobile,
08:01il y a un ensemble de données qui sont sensibles sur ce sujet-là.
08:04Donc voilà, à prendre en compte.
08:06Alors j'avais encore une question à aborder avant de vous passer la parole,
08:08parce que je suis sûre que vous avez plein de questions.
08:10C'est vraiment sur l'aspect réglementation.
08:11Vous en avez parlé, évidemment, Laurence de Villers, de la mettre en place.
08:14Alors si on creuse un peu, on voit qu'en 2009,
08:16le Japon a introduit les lois d'Azimov dans le développement de leur IA,
08:19afin notamment de garantir la sécurité des utilisateurs.
08:22Il y a la Commission européenne aussi qui planche là-dessus.
08:24Oui ? Non ? Vous voulez tout de suite interrompre ?
08:26C'est pas possible.
08:27D'accord.
08:28De mettre en oeuvre les lois d'Azimov.
08:31En tout cas, ils l'ont introduit.
08:33Ils ont essayé.
08:33C'était une vitrine.
08:34D'accord, oui.
08:35Donc il y a la Commission européenne.
08:39Ils ont fait une petite vitrine sympathique,
08:41mais c'est ça toute la problématique.
08:43C'est-à-dire qu'on a beaucoup de philosophes qui mettent en oeuvre,
08:46ou d'écrivains, ou de futurologues, ou de grands penseurs, de politiques.
08:50Ils mettent en oeuvre des espèces de bonnes valeurs à mettre dans ces machines.
08:56Mais comment on les met ?
08:57Ça, c'est pas dit.
08:58Nulle part.
08:59Et même encore parmi les experts européens qui sont en train de plancher sur...
09:03Oui, il y a eu un rapport de la députée européenne, Maddie Delvaux.
09:06Sur lequel, je vous encourage tous à les regarder,
09:08parce que tout le monde peut mettre des points.
09:11Donc il faut absolument se demander si vous n'avez pas un lien.
09:14Parce qu'en ce moment, il y a donc jusqu'au 1er février,
09:17le loisir de mettre des commentaires.
09:19Donc c'est important de regarder ça.
09:20Et moi, le premier commentaire, c'est qu'on reste à un niveau,
09:25même si j'admire beaucoup des gens qui en font partie de cette commission.
09:29Il y a 52 experts internationaux, donc européens, plutôt.
09:33Mais ça reste à un niveau qui n'est pas le niveau qui est utilisable.
09:38Donc qui va faire ce niveau-là ? Je ne sais pas.
09:40Si on le laisse comme ça, ça voudrait dire que les concepteurs,
09:43ils vont s'emparer de ça et font ce qu'ils veulent avec cette règle.
09:48Et donc qu'est-ce qui se passe ?
09:48D'un point de vue de responsabilité, après, comment...
09:51Alors ça sera...
09:53Qui va prendre finalement la patate chaude dans tout ça ?
09:55Je ne sais pas.
09:56Mais en tout cas, on n'est pas garantis
09:58qu'on suive effectivement une règle éthique.
10:01Yann Aljanin, vous voulez réagir ?
10:02Oui, c'est vrai que les maximes générales,
10:05« Don't do evil », qui est la maxime de Google,
10:08c'est un peu, est-ce que vous êtes pour ou contre la paix dans le monde ?
10:11Les gens seront pour.
10:12Et effectivement, on est sur des situations où on aura besoin
10:15de rentrer sur des niveaux qui sont plus opératoires.
10:18Donc je suis tout à fait d'accord sur le fait qu'on va avoir besoin
10:20de dire, mais face à tel algorithme donné,
10:24dans telle situation, comment est-ce qu'on fait pour le regarder ?
10:29Si je prends un exemple qui s'est posé récemment
10:31avec la loi Le Maire pour une république numérique,
10:34il y a un certain nombre de données qui ont été caractérisées
10:36comme étant des données d'intérêt général.
10:38Et on se dit, on va avoir un besoin,
10:39même si elles sont gérées par les entreprises privées,
10:41de pouvoir ouvrir l'accès.
10:42Alors, pour le moment, la manière dont il va falloir activer
10:45ce genre d'outils, en pratique, ça reste,
10:48on en est encore au début, donc on n'est pas forcément
10:49en capacité aujourd'hui de le mettre complètement en œuvre.
10:52Mais c'est un cas où on se dit, il y a ces données-là,
10:56on ne sait pas comment les utiliser,
10:57on va définir des intérêts, un intérêt général
11:00qui va permettre d'y avoir accès.
11:02Je pense que ce genre d'approche dans laquelle on se dit,
11:04il y a des cas où on va être amené à intervenir,
11:07c'est des choses qu'il va falloir fixer,
11:08mais ça va prendre du temps aussi pour le tester,
11:11et on va avoir besoin de pouvoir faire des expérimentations
11:14et donc besoin de travaux de recherche
11:15pour tester ce genre de choses.
11:17Alors, ça prend du temps et en même temps,
11:18on voit que ça se développe.
11:19Là, c'est une vraie réalité, cette intelligence artificielle.
11:22Donc, c'est vrai que c'est tout le paradoxe du temps.
11:24Alors, c'est le paradoxe.
11:25Après, je trouve, à la fois, ça se développe,
11:27mais ce qui se développe aujourd'hui,
11:28c'est sur des champs qui sont encore relativement limités,
11:31des véhicules autonomes complets,
11:33généralisés, ce n'est pas pour tout de suite,
11:37et des questions comme savoir ce qu'enregistre mon chatbot,
11:40d'une certaine manière, c'est...
11:42Enfin, on peut déjà le traiter aujourd'hui dans le cadre du RGPD.
11:45Ce que je raconte chez moi, ça doit être des données
11:48sur lesquelles je devrais avoir une prise dès aujourd'hui.
11:52Après, effectivement, il faut le mettre à l'exécution.
11:54Je ne sais pas si on peut récupérer l'intégralité
11:55de ces conversations qui ont été enregistrées,
11:57mais il faudrait...
11:58Je suis sûr qu'il y a des gens qui vont essayer,
12:00et la jurisprudence aussi se construira sur ce genre de choses.
12:03Olivier Rufillat, vous voulez rajouter quelque chose
12:04sur la réglementation ?
12:06Je crois que ça fonctionne, oui.
12:06Oui, ça fonctionne.
12:09Alors non, je voulais juste aussi rajouter, en effet,
12:11sur le véhicule autonome, quelque chose qui n'a pas été détaillé
12:14sur un peu l'avenir du véhicule complètement autonome.
12:17Je pense que tous les constructeurs et les entreprises
12:20qui travaillent dessus, qui sont un peu raisonnables,
12:22dans leur feuille de route de développement,
12:24ne mettent pas le niveau 5 dedans.
12:27Ils ne se projettent pas.
12:28Alors, des feuilles de route qui peuvent aller jusqu'à 2035,
12:30voire 2050.
12:31Donc voilà, il n'y a pas de projection.
12:33Et il y a d'autres constructeurs dont je ne parle pas,
12:39parce que je ne veux pas citer les noms,
12:41mais qui donnent de très mauvais exemples,
12:42en disant que le véhicule autonome de niveau 5 sera là en 2021.
12:46Voilà, il faut faire attention.
12:48Pour qu'il soit là en 2021, ça veut dire que maintenant,
12:51il doit déjà être fonctionnel.
12:52Parce qu'il a vu les temps de développement et de mise sur le marché,
12:55on sait très bien que c'est complètement ridicule.
12:58Mais en même temps, Google avait annoncé son véhicule autonome pour 2015.
13:01Voilà, donc...
13:03Et il y en a combien qui ont roulé déjà ?
13:04Il y en a pas mal, hein ?
13:05Donc on ne peut pas dire ça.
13:07Il y a déjà eu des expériences en vraie grandeur, quand même.
13:09Ah, qui ont roulé ?
13:10Oui, mais j'ai bien parlé de véhicules autonomes de niveau 5,
13:14c'est-à-dire le véhicule autonome ultime,
13:16où on n'a plus de conducteur.
13:17Après, par contre, l'automatisation des véhicules,
13:21elle a commencé à la fin des années 90,
13:23quand on a commencé à remplacer avec l'introduction de l'ABS, de l'ESP.
13:26Tout ça, c'est un début d'automatisation du véhicule.
13:29Maintenant, l'autopilote Tesla tel qu'il est,
13:31ou les fonctions d'assistance Mercedes,
13:33on peut considérer qu'il est autonome dans certaines conditions.
13:36Après, l'automatisation complète,
13:38on en est vraiment très loin.
13:41Il suffit de regarder la petite navette
13:43que vous avez sur le parvis de la Défense,
13:45qui est pourtant un fleuron,
13:47même au niveau international.
13:48Et nous, on a la même, là où je travaille,
13:50à Versailles, sur le plateau de Satori,
13:51on a le jumeau aussi,
13:53qui roule un peu plus vite.
13:54Il y a moins de piéton, oui, c'est ça.
14:00Moi, j'aurais tendance à penser,
14:02ce n'est pas pour effrayer,
14:04mais quand même, ça va assez vite,
14:07les modifications, tout ça.
14:08Il suffit.
14:09Google peut disparaître demain.
14:11Enfin, je veux dire,
14:11on est sur un monde, quand même, dans l'IA,
14:14où il y a des conjectures
14:16qui sont difficiles à prévoir.
14:18Oui, je suis d'accord.
14:18Ça va trop vite.
14:22En tout cas, sur l'application
14:23des véhicules autonomes,
14:25où on a vraiment une interaction,
14:26où la vie des passagers est en jeu.
14:28Donc là, ça va un peu vite.
14:29Et oui, les prédictions sont difficiles.
14:30Mais je trouve ça assez raisonnable
14:31de dire, dans la feuille de route,
14:34dans les feuilles de route,
14:34de ne pas inclure cette partie-là,
14:37sachant que...
14:39Et les drones,
14:41le fait qu'on vole, là ?
14:43Alors, j'ai répondu à une interview
14:50de Science & Vie sur ce sujet,
14:53quand le véhicule pop-up d'Airbus
14:56avait été présenté.
14:58Donc, dire, voilà, c'est l'avenir.
15:00Alors, bon, pourquoi pas ?
15:01Dans l'immédiat, ça pourrait résoudre
15:03beaucoup de problèmes d'automatisation
15:05qu'on a dans les véhicules roulants.
15:07Et par contre, d'un point de vue énergétique,
15:09c'est une catastrophe.
15:10Et imaginons la diffusion de ce genre de véhicules
15:12qu'on va se retrouver avec des milliers
15:13de drones de ce type-là qui vont voler.
15:16Et là, on va se retrouver
15:17avec un problème de planification
15:19qui va être du même ordre
15:20que ce que l'on a avec nos véhicules roulants.
15:22Donc, peut-être, voilà,
15:23c'est remettre au lendemain
15:24un problème que l'on a actuellement.
15:26Mais d'un point de vue énergétique,
15:27c'est une catastrophe.
15:28Alors là, je ne me questionne pas du tout.
15:31Oui, parce qu'on pourrait aussi aborder
15:32toute la question de la sobriété énergétique.
15:34Enfin, ça soulève beaucoup de sujets.
15:36J'ai envie encore de vous poser plein de questions,
15:37mais je suis sûr qu'il y a des questions
15:38aussi pertinentes dans la salle.
15:40Donc, évidemment, on va vous passer un micro.
15:42N'hésitez pas, levez la main,
15:44présentez-vous, posez vos questions.
15:46Allez-y.
15:46Le but aussi de cette matinée,
15:48c'est d'échanger.
15:48Il y a déjà une main qui se lève là-bas, monsieur.
15:50On va vous donner un micro.
15:59Voilà, c'est juste ici.
16:01Merci beaucoup.
16:02Allez-y.
16:03Oui, bonjour.
16:04Merci pour ces présentations très riches.
16:06C'est vrai que le problème déontologique,
16:08déontologique, enfin, excusez-moi,
16:09je ne me suis pas présenté pour une Jostin CFDT.
16:12Le problème déontologique a été soulevé,
16:15mais on est habitué à avoir des outils numériques
16:19qui sont implantés.
16:21Et effectivement, le fait qu'il y ait des baisses d'effectifs,
16:24c'est l'objectif souvent,
16:25c'est de compenser le baisses d'effectifs.
16:27Il y a des objectifs de performance,
16:29mais il y a la question de la qualité de vie au travail
16:32qui se pose également.
16:33Par rapport aux outils numériques habituels,
16:37il y a vraiment l'effet des multiplicateurs
16:41en termes d'impact,
16:43à la fois parce que c'est performant
16:45et aussi parce qu'on a l'impression
16:47que c'est un outil auquel on peut faire une confiance
16:50un peu avec,
16:51puisque ça a un air objectif.
16:54On ne maîtrise pas vraiment la boîte noire,
16:58c'est-à-dire on ne sait pas vraiment
16:59comment ça a été conçu.
17:01Donc, quels sont les processus opératoires,
17:05justement, dont on peut parler de M. Jeannin,
17:07qui sont mis en place au niveau du ministère
17:09par rapport à la mise en place
17:11d'un contenu d'intelligence artificielle
17:13dans les outils numériques,
17:15donc à la fois pour les métiers transversaux en interne,
17:18je pense aux ressources humaines,
17:19et pour tout ce qui est métiers techniques,
17:21donc par rapport à tout ce qui est association
17:24des parties prenantes, je pense,
17:27donc l'usage est direct,
17:28enfin je pense au gestionnaire RH
17:30ou l'agent qui est géré par le gestionnaire RH,
17:33par exemple.
17:34Merci à vous, c'est une question importante
17:35qu'on souhaitait aborder,
17:36donc c'est très bien qu'elle soit venue de...
17:38Alors, je ne pourrais malheureusement pas répondre
17:41pour le secrétariat général
17:42sur la manière dont ils envisagent
17:44de déployer des outils
17:46au sein des fonctions RH.
17:51En revanche, là j'ai un plus de recul
17:58sur ce qu'on peut arriver à faire,
17:59sur les fonctions,
18:00en gros ce que j'avais,
18:01c'est pas pour gérer nos processus internes,
18:04mais pour aller faire par exemple
18:04les missions d'expertise et de contrôle,
18:07je pense notamment à ce qui est contrôle sanitaire,
18:10il y a un projet qui a été porté à la fois
18:13par le CGDD, le BRGM, l'AFB de mémoire,
18:20qui est retenu dans les projets
18:23avec un entrepreneur d'intérêt général
18:25sur l'intelligence artificielle,
18:27qui visait à utiliser des données
18:30qui existent dans les différents systèmes
18:32pour optimiser la police de l'eau.
18:35Donc là c'est un cas où on a des effectifs,
18:39enfin il y a beaucoup de points à contrôler,
18:41comment savoir quels sont les endroits
18:42qui sont les plus...
18:44où est-ce qu'on a intérêt à cibler les contrôles ?
18:47C'est des outils d'assistance
18:48qui vont être testés,
18:50qui vont être développés
18:51par à la fois des développeurs internes
18:54et des agents du ministère,
18:57donc eux vont essayer de faire rentrer
18:58en gros leur science métier,
19:00dire voilà, ça c'est des critères
19:01qui permettent de se dire
19:02il y a des chances qu'il y ait un problème
19:04à cet endroit-là,
19:05comment est-ce qu'on peut intégrer
19:06des signaux faibles liés
19:07à ce qu'enregistrent ces différents capteurs
19:10et comment est-ce qu'on intègre
19:11tous ces éléments
19:12pour faire un système
19:12qui aide à la prédiction
19:14et surtout comment est-ce qu'on fait
19:16ensuite pour l'améliorer
19:18un peu de façon continue.
19:20Un des intérêts de ces dispositifs-là
19:22c'est qu'on peut les tester,
19:24on peut voir comment ça fonctionne
19:25et puis si on se dit
19:26tiens là il y a eu un biais,
19:27on constate qu'on n'a pas fait
19:28les problèmes aux contrôles,
19:29au contraire on dit tiens ça marche,
19:30il y a ça qui marche,
19:31on a oublié tel critère,
19:32on peut mettre à jour
19:33ce dispositif-là
19:34pour peu qu'on ait
19:35une compréhension suffisamment bonne
19:36de comment a été faite
19:37l'optimisation au départ,
19:38quels sont les différents critères
19:40qui ont été utilisés.
19:41Je pense que c'est dans cette ligne-là
19:42en tout cas
19:43qu'il y a beaucoup de choses
19:43à faire pour pas mal
19:45de métiers du ministère,
19:47c'est examiner des dossiers,
19:49on se dit comment faire du ciblage
19:50et on peut avoir un dispositif
19:51qui dit moi je vous conseille
19:52de regarder ça en priorité.
19:54Ça n'empêche pas la personne
19:55qui est en charge
19:55d'avoir un peu d'autonomie
19:56mais elle va concentrer
19:57son attention sur ce dossier-là
19:58considéré comme prioritaire.
19:59Et pour peu qu'on ait bien mis en place
20:00le dispositif dans lequel
20:01c'est les agents qui l'expérimentent.
20:04Ces agents,
20:04on les met en capacité
20:05de faire des retours,
20:06ils améliorent le dispositif
20:08jusqu'à un moment où ils disent
20:08tiens mais ce dispositif
20:09il m'a vraiment aidé
20:10à me concentrer
20:11sur les dossiers importants
20:12jusqu'à un moment où je me dis
20:13j'ai suffisamment confiance
20:14pour laisser passer
20:15les dossiers secondaires
20:16qui peuvent être traités
20:16potentiellement automatiquement.
20:18Après effectivement
20:19ce qui était évoqué
20:19à différents moments,
20:20il peut y avoir des erreurs grossières
20:21de certains de ces dispositifs-là
20:23donc il faudra une capacité
20:24à les repêcher dans certains cas
20:25à identifier quel était le problème
20:27et je pense que la capacité
20:28d'avoir des boucles
20:28de rétroaction
20:29à se dire
20:30il y a eu un problème
20:31je l'ai identifié
20:32je le corrige
20:33on le mettra en place
20:35mais d'une certaine manière
20:36un peu comme c'était évoqué
20:37pour le freinage
20:38une fois que la conduite assistée
20:40fonctionne bien
20:40que le freinage assisté
20:42fonctionne bien
20:42vous croyez que vous appuyez
20:44sur le frein
20:44pour faire freiner la voiture
20:45mais vous n'appuyez pas sur le frein
20:46vous donnez un ordre
20:48je demande la voiture de freiner
20:49et il y a des calculateurs
20:50qui disent
20:50pour freiner
20:51voilà le niveau de pression
20:52qu'il faut exercer
20:53et dans certains cas
20:53sur l'environnement glissant
20:55et bien je n'étais pas trop freiné
20:57même si vous vous appuyez
20:57comme un fou
20:58de même pour ces questions de police
21:00il y aura des dispositifs
21:01qui vont dire
21:01moi je vous conseille
21:02de cibler tel ou tel contrôle
21:03et pour que ça fonctionne bien
21:05il faudra utiliser
21:06les expertises métiers
21:08vous êtes partant pour tester ?
21:13on va vous retendre un micro
21:16et puis après on passera
21:18la parole à madame
21:19justement pour avoir discuté
21:23avec des agents
21:23police de l'eau
21:24sur le sujet
21:25il y a une vraie question
21:26il s'agit plutôt
21:27de contrôle administratif
21:28il y a tout ce qui est
21:28connaissance terrain
21:29et sur le fait
21:31de classer automatiquement
21:32en dossier secondaire
21:33certains sujets
21:35c'est un peu le problème
21:37boîte noire
21:38ce que j'évoquais
21:40c'est bien
21:40on ne veut pas faire
21:40une boîte noire
21:41ces projets là
21:42pour que ça fonctionne
21:44on a besoin
21:44que ce soit la personne
21:45de la police de l'eau
21:46qui soit co-concepteur
21:47avec effectivement des développeurs
21:49et des gens qui connaissent
21:49les données aussi
21:50mais ce genre d'outil
21:52ne sera effectivement adopté
21:53que si c'est les gens
21:54de la police de l'eau
21:55qui se rendent compte
21:56qui vérifient
21:57ou qui développent
21:58un système qui fonctionne
21:59et je suis d'accord
22:00que si on leur dit
22:00voilà l'outil
22:01ça ne marche pas
22:02mais il y a d'autres administrations
22:03qui ont fait des essais
22:04dans ce genre là
22:05et qui ont pu fonctionner
22:07la police a fait un centre de test
22:09pour identifier des zones
22:10non pas pour dire
22:11c'est là que vous devez aller
22:12et les agents l'éteignent
22:13parce que ça ne fonctionne pas
22:13mais pour faire un petit
22:15pour faire une allocation
22:16plus efficace de moyens
22:17et ça peut fonctionner
22:18si effectivement
22:18il y a eu suffisamment
22:19de phases de test
22:20en amont
22:21en tout cas
22:22c'est dans cette direction là
22:23qu'il faut aller
22:23en fait je ferais le parallèle
22:27en médecine
22:27en médecine
22:29quand il va y avoir
22:30des outils
22:31qui seront mis en oeuvre
22:32qu'est-ce qu'on fait
22:33avec des prédictions
22:34de ces machines
22:35si une machine me dit
22:36voilà 75%
22:37vous savez
22:37on passe la machine
22:38sur son bras
22:39et regarde les grains de beauté
22:40et me dit
22:40voilà
22:40vous avez 75%
22:42d'avoir un cancer de la peau
22:43je fais quoi
22:44avec les 75%
22:46je ne sais pas bien encore
22:47alors du coup
22:49j'appelle un médecin
22:50je lui demande
22:51votre avis
22:52et il regarde
22:53et il me dit
22:53ben non
22:54ah
22:55qu'est-ce que je fais
22:56j'appelle deux médecins
22:59bon mais même
23:00enfin je veux dire
23:01il va falloir qu'on comprenne
23:02qu'elles sont
23:03à mon avis
23:04il faut que l'expertise
23:05dont tu vous parlais
23:06c'est-à-dire que les médecins
23:06soient capables
23:07d'aller regarder
23:08ce qui s'est passé
23:08précisément
23:10avec la machine
23:11donc il faut développer
23:12des compétences
23:13hybrides
23:14entre des experts
23:15de domaine
23:16et des concepteurs
23:17de ces machines
23:17pour que ce ne soit pas
23:17des boîtes noires
23:18alors justement
23:20il y a eu un tweet récemment
23:21juste de Laurent Alex
23:22qui ne fait pas toujours
23:23l'unanimité
23:23mais qui disait
23:24que l'intelligence artificielle
23:26détecte Alzheimer
23:2776 mois avant
23:28les docteurs biologiques
23:29c'est ce qui ressort
23:29d'un article
23:30nous médecins
23:31devons commencer
23:32à réfléchir
23:32à l'évolution
23:33de notre métier
23:33voilà
23:33bon c'est juste
23:34pour glisser
23:35ce qu'il a dit
23:36entre partenaires
23:37alors il y a madame
23:37qui va poser une question
23:39j'ai vu une main
23:39se lever aussi là-bas
23:41oui alors moi
23:42je voudrais revenir
23:42sur la question
23:43de l'observatoire
23:44que vous avez évoqué
23:45dès le début
23:46parce que moi aussi
23:47j'ai une longue histoire
23:47d'abord mathématicienne
23:49j'ai travaillé
23:49sur des systèmes informatiques
23:51très complexes
23:52y compris militaires
23:53et donc
23:54j'ai un peu suivi
23:55toute l'histoire
23:56du numérique
23:56et de l'industrie
23:57et pour tout ce qui est
23:59surveillance
23:59enfin je me suis aussi
24:00toujours intéressée
24:01aux questions éthiques
24:02justement
24:02et il me semble
24:04quand vous posez
24:04des questions
24:05de surveillance
24:06je me suis peut-être
24:06trompée
24:07j'ai peut-être mal compris
24:08mais il me semble
24:09que vous voyez toujours
24:09les choses a posteriori
24:11c'est-à-dire
24:11une fois que les systèmes
24:13sont à peu près terminés
24:14et bien avancés déjà
24:15on commence à se poser
24:16des questions
24:16pour savoir
24:17s'ils respectent bien les règles
24:18si ceci, si cela
24:19si ça ne va pas poser
24:20des problèmes d'éthique
24:21or moi
24:21toute l'histoire
24:22de la surveillance
24:24des systèmes
24:25industriels
24:25ou numériques
24:26démontre que la surveillance
24:27si on veut qu'elle soit efficace
24:29c'est justement pas
24:30a posteriori
24:31qu'il faut la faire
24:31mais le plus en amont possible
24:33ce qui veut dire
24:33que cet observatoire
24:34non seulement
24:35il est indispensable
24:36il devrait déjà exister
24:37depuis longtemps
24:37ça me paraît une évidence
24:39donc on est déjà bien en retard
24:40première chose
24:41et la deuxième chose
24:43c'est que si on veut
24:43être efficace
24:44il faut vraiment agir
24:45à tous les niveaux
24:46et le plus en amont possible
24:47c'est à dire que
24:48dès que quelqu'un
24:48commence à évoquer
24:51l'hypothèse
24:51d'un nouveau système
24:52c'est là qu'il faut être présent
24:53et se dire
24:55quelles sont les questions éthiques
24:56qui peuvent être posées derrière
24:57sinon on sera complètement
24:58inefficace
24:59et en retard de 10 longueurs
25:00à mon avis
25:01bon ça c'est la première chose
25:02et je voudrais la relier
25:03à une deuxième
25:03qui a été un peu évoquée
25:05avec l'histoire des voitures
25:07et notamment
25:08de la maîtrise
25:08des sous-traitants
25:09qui me paraît être
25:11un problème majeur
25:12de notre société
25:13justement
25:13et très lié à cette question
25:14d'éthique justement
25:15voilà
25:16merci à vous
25:17je pense que vous avez 100% raison
25:19sur
25:19parce que l'idée première
25:21de l'observatoire
25:22madame
25:22c'est des centres de recherche
25:24moi j'imaginais
25:25qu'effectivement
25:26on allait mettre l'accent
25:28en France
25:29notamment
25:30sur ces objectifs
25:31puisque ça fait longtemps
25:31qu'il y a des comités d'éthique
25:33des gens qui disent
25:34effectivement
25:35il faut faire l'éthique
25:35by design
25:36c'est à dire qu'il faut
25:37avant même d'avoir fait le produit
25:39avoir réfléchi
25:39et aux conséquences
25:40et ça n'est pas
25:44dans l'air du temps
25:45d'anticiper
25:46n'est-ce pas
25:47donc on fait toujours
25:48du court terme
25:49en ce moment
25:49donc déjà
25:50si on avait au moins
25:52un observatoire
25:52pour regarder ce qui se passe
25:54et qui a l'air mauvais
25:56peut-être qu'on arriverait
25:57par là
25:58mais je sais
26:00mais
26:00c'est vraiment pas
26:02celle que je défends
26:03je la défends
26:04par défaut
26:04parce que personne
26:05ne veut entendre l'urgence
26:07personne
26:07au gouvernement
26:08pour l'avoir dit
26:09x fois
26:10à plein de niveaux différents
26:11personne ne veut le comprendre
26:12l'éthique
26:13on me dit
26:13l'éthique fait peur
26:14un observatoire
26:16ça sert à rien
26:16on fait des accords
26:18avec les canadiens
26:18pour faire un observatoire
26:20sur ces travaux
26:22et faire
26:23essayer de l'observatoire
26:25par des philosophes
26:26c'est à dire après
26:27un observatoire
26:29un observatoire
26:30de ce qui est déjà fait
26:31effectivement quelque part
26:33ils ont un peu raison
26:33de dire que ça ne sert à rien
26:34c'est pour ça que j'insiste
26:36pour défendre l'idée
26:37d'un observatoire
26:39très en amont
26:41c'est à dire que
26:41dès qu'une question
26:42se pose d'un nouveau projet
26:44c'est là qu'il faut réfléchir
26:45à toutes les questions
26:46que ça peut poser
26:47et c'est là qu'il faut être très présent
26:49c'est ça l'observatoire
26:50il y a les deux
26:51parce que quand je regarde
26:52comment on gère le deuil au Japon
26:55avec ces machines qui arrivent
26:56là c'est peut-être aussi
26:57de regarder des idées nouvelles
27:00qui ont été développées
27:01en se disant
27:02qu'est-ce qu'ils ont mis déjà dedans
27:03déjà il ne faut pas arrêter
27:04la recherche sur ces sujets là
27:05pour comprendre
27:06et puis il faut savoir
27:08comment on pourrait
27:09effectivement
27:09les réguler
27:12avant de les mettre en oeuvre
27:13mais on peut avoir
27:14ces idées aussi
27:15développées ailleurs
27:16oui
27:17c'est vrai
27:18bon la question du test
27:19au final a toujours existé
27:20existera toujours
27:21on est d'accord
27:21mais n'empêche que
27:23l'action est beaucoup plus efficace
27:25quand on l'a
27:26quand on
27:27c'est pour ça que je parle
27:28de déontologie des chercheurs
27:29c'est à dire qu'il faut embarquer
27:30tout le monde
27:30et il faut que ce soit
27:31la conception va avec l'éthique
27:33c'est à dire depuis le début
27:34j'ai dit
27:35on fait de l'IA
27:35on sait que c'est performant
27:37on fait des règles éthiques
27:38je voulais répondre
27:40sur cette question là
27:41ou les sous-traitants aussi
27:42oui
27:42bon c'était pour dire que
27:44de mon point de vue
27:46je suis assez d'accord aussi
27:47pour qu'il y ait un observatoire
27:48dès le début
27:50de la conception
27:51des systèmes
27:51l'observation
27:53l'observatoire
27:54il est utile aussi
27:54pour moi
27:55une fois que le système
27:56il est fonctionnel
27:58surtout dans le cas
27:58des véhicules
28:00parce qu'on est dans
28:00le cadre d'une épidémiologie routière
28:02on a une évolution
28:04de nos transports
28:06après je suis un peu
28:07en me plaçant
28:08plus en tant qu'observateur
28:09je suis un peu pessimiste
28:10et je me dis
28:10les constructeurs automobiles
28:12ils vont continuer à faire
28:13comme ils ont toujours fait
28:14et au final
28:15en fait
28:15on va plutôt être fort
28:17sur l'aspect
28:17en effet observatoire
28:19a posteriori
28:20plus
28:21plus en collaboration
28:23avec tout ce qui est
28:24normalisation
28:26et
28:26certification
28:28donc
28:29voilà
28:29la normalisation
28:30oui c'est ça
28:31c'est ça
28:31c'est une boucle
28:32c'est un développement continu
28:33et on voit bien
28:33que c'est déjà né
28:34un peu avec Tesla
28:35qui met à jour
28:36votre voiture
28:37quand vous rentrez au garage
28:38il met à jour le logiciel
28:39le lendemain
28:40la voiture que vous conduisez
28:41c'est plus la même
28:41donc
28:43bon et moi
28:43j'avais alerté
28:44sur l'apprentissage
28:45machine adaptatif
28:46le fait que
28:46effectivement
28:47comme Thaï
28:47ce que vous avez montré
28:48apprend tout seul
28:50donc les machines
28:50ne sont pas créatives
28:51mais elles ont une certaine
28:52créativité quand même
28:53qui est laborieuse
28:55ils essayent plein de choses
28:56pour arriver à mettre
28:57des modèles en oeuvre
28:58mais là
28:59il y a des logiciels
29:00qu'on utilise
29:01qui sont dits supervisés
29:02d'autres qui sont non supervisés
29:03qui ne sont pas encore
29:04très utilisés
29:05et puis on a
29:06cette façon d'optimiser
29:08par essai-erreur
29:09et par essai-erreur
29:11ça veut dire
29:11qu'on dit juste
29:12voilà ce qui pourrait
29:13on donne des mérites
29:15quoi
29:15mais la machine invente
29:16comment faire
29:17pour arriver
29:18à la récompense
29:19et donc dans Thaï
29:20et Microsoft
29:21qu'est-ce qu'elle a
29:21trouvé toute seule
29:22la machine
29:23c'est que quand les gens
29:23parlent de
29:24politiquement non correct
29:26ça fait parler les gens
29:27donc ça elle a découvert
29:29tout seul
29:29puisque en fait
29:31la mesure
29:32c'était plus la personne
29:33parle plus ça a l'air
29:33bien continué
29:34sans rien comprendre
29:35de ce qui a été dit
29:36donc c'est ce genre
29:40de choses
29:40qu'on va mettre
29:41dans les mains
29:41de personnes âgées
29:42qu'on va mettre
29:43dans les mains
29:43de n'importe qui demain
29:44qui sera peut-être
29:45dans Google Home
29:46moi je suis atterrée
29:47par le fait que
29:48par exemple
29:49Amazon fasse un brevet
29:50sur la détection
29:51des émotions dans la voix
29:52dont le dégoût
29:53qui n'est pas dans la voix
29:54qui est plutôt visuel
29:55mais bon
29:56c'est leur brevet
29:56peu importe
29:57mais en tout cas
29:58en disant que le bienfait
29:59ça va être
30:00d'aller traquer
30:00les gens isolés
30:01et dépressifs
30:02chez eux
30:03il y a un marché énorme
30:05donc qu'est-ce qu'on fait
30:06contre des trucs
30:07comme ça quoi
30:08ok ?
30:09et bien d'ailleurs
30:10vous avez dû le voir
30:11dans le cadre
30:12de tout ce qui est
30:13deep learning
30:14le programme Google Brain
30:15où ces deux intelligences
30:16artificielles
30:17Alice et Bob
30:19se sont mis à parler ensemble
30:20c'était du
30:20c'était ancré
30:21leur propre langage
30:22c'était du pipo ?
30:23ouais ouais ouais
30:23c'est très bas niveau
30:24quoi
30:25c'est à dire
30:25mais niveau inconnu
30:26alors c'est pas pour
30:27vous voyez moi je suis journaliste
30:28mais les médias
30:29mettent en avant
30:29tous ces sujets
30:30et on dit tout d'un coup
30:31bah ça y est
30:31il y a deux intelligences
30:32artificielles
30:33qui discutent ensemble
30:33où va-t-on arriver ?
30:36on a fait des recherches
30:37là-dessus
30:37c'est à dire qu'en fait
30:38il y a des tests
30:39qui ont été soutenus
30:40sur des trucs comme ça
30:41et ça avance pas beaucoup
30:42c'est des trucs
30:43qui vont à la limite
30:44alors suivant l'environnement
30:46que vous faites
30:46vous pouvez faire des trucs
30:47un peu intelligents
30:48qui montrent
30:48un espèce de comportement
30:50mais c'est du très bas niveau
30:51c'est du très bas niveau
30:52ça n'a rien d'intelligent
30:53au final
30:54et peut-être que la machine
30:55va enregistrer le poète
30:56que fait l'autre
30:57et quand elle refait poète
30:59ça fait deux fois
31:00et par fréquence
31:01elle se dit que ce poète
31:02a un intérêt
31:03mais en gros
31:03c'est de ce niveau-là
31:04après
31:07on va aller de plus en plus loin
31:09dans cette idée
31:09c'est vraiment ce qu'on veut faire
31:10en recherche
31:11c'est l'adaptation automatique
31:12dans le contexte
31:14de l'interaction
31:15pour un robot
31:16dans un truc très compliqué
31:17donc de plus en plus
31:19la curiosité est mise en avant
31:21il a cherché le travail
31:21sur la curiosité
31:22pour aller regarder
31:24ce que font les humains
31:25et peut-être qu'ils poseront
31:26des questions les robots
31:27pour avoir des réponses
31:28à ce moment-là
31:29ça donnera l'information
31:30d'une certaine manière
31:32oui
31:32ils vont arriver à prendre
31:34des choses
31:35plus ou moins intéressantes
31:36autour
31:36mais ce n'est pas
31:37de l'intelligence humaine
31:38en tout cas
31:38madame je crois
31:40que vous avez une question
31:40oui donc
31:42je suis Valérie Houdin
31:43de la DDT 78
31:45ce ne sera pas l'objet
31:47de ma question
31:47mais j'ai été très intéressée
31:49par
31:49de savoir
31:50de savoir qu'il y a une application
31:51pour les contrôles
31:52police de l'eau
31:54de l'intelligence artificielle
31:55mais donc ma question
31:57ce sera plutôt
31:58que
31:58donc
32:00l'humain a toujours eu
32:03certains biais
32:04bon ben de
32:04par exemple
32:06de s'épier les uns les autres
32:07donc de se surveiller
32:09par l'intermédiaire
32:10des nouveaux outils
32:11de l'intelligence artificielle
32:12on sait dans la continuité
32:13ce qu'on disait
32:15les arguments
32:16commerciaux limites
32:17dire bon ben
32:18il reste plus de
32:19attention
32:20il reste plus de
32:21disponibilité
32:22etc
32:22donc en fait
32:24bon ben
32:25est-ce que l'intelligence artificielle
32:27n'est pas
32:27considérée plutôt
32:29comme un
32:30super outil
32:31qui
32:32qui va exacerber
32:33justement
32:33les mauvais penchants
32:34humains
32:35alors est-ce que ça peut
32:37exacerber
32:38les mauvais penchants humains
32:39oui oui
32:39je pense que ça a
32:40des pouvoirs forts
32:41dans les mains
32:42de n'importe qui
32:42ça c'est clair
32:43donc c'est un vrai danger
32:45que vous mettez en avant
32:47il y en a un autre aussi
32:49c'est de nous automatiser
32:50c'est-à-dire qu'en fait
32:52quand on va voir
32:53que le système
32:53il fait déjà quelque chose
32:54peut-être qu'on
32:55fera pas l'effort
32:56d'aller regarder
32:56plus loin
32:57on va adhérer au système
32:59donc il y a à travailler
33:01vraiment sur ça
33:02sur le fait de
33:03recréer de la valeur
33:05de l'humain
33:05avec ces machines
33:06sinon on va les suivre
33:08on va s'appauvrir
33:09terriblement
33:09socialement parlant
33:11intellectuellement
33:12enfin ça va être
33:13un désastre ces machines
33:14et le grand
33:15quand même
33:16le vrai
33:17la vraie difficulté
33:19c'est d'imaginer
33:19comment on va faire des choix
33:20qui coûtent plus cher
33:21parce que
33:22entre construire une machine
33:24à partir des connaissances
33:25qu'on a
33:26qui résout un problème
33:27certes elle le fait peut-être
33:28pas bien tout le temps
33:28et l'humain
33:29qui prend plus de temps
33:30ou qui coûte plus cher
33:32qu'est-ce qu'on va choisir
33:33à votre avis ?
33:33la machine
33:34probablement
33:36et donc ça
33:37si c'est généralisé
33:38c'est waouh
33:40donc il faut vraiment
33:41que cette culture
33:42c'est en Chine
33:43on commence à faire des choses
33:44quand même
33:44qui me font très très peur
33:46moi
33:46donc si on arrive
33:48s'il n'y a plus de médecin
33:49par exemple
33:49si la médecine
33:50alors certes
33:51il y a des endroits
33:51où il n'y a pas de médecine
33:52donc c'est bien
33:53d'apporter cet outil
33:54numérique pour la médecine
33:56pour les gens
33:56qui n'ont pas accès
33:57maintenant
33:58est-ce qu'on va appauvrir
33:59quand même
34:00les connaissances
34:00qu'on a en médecine ?
34:01est-ce qu'on va garder
34:02autant de médecins
34:03maintenant ?
34:05qu'il y en a maintenant ?
34:06on est en train
34:07de faire des choses
34:07qui sont un peu étranges
34:08il y avait un numerosclosus
34:10maintenant on va l'ouvrir
34:10totalement
34:11on ne fait pas comme ça
34:13dans les autres pays
34:13il me semble
34:13sur la médecine
34:14on régule au fur et à mesure
34:16il me semble
34:18qu'il y a des outils
34:18à mettre en oeuvre
34:19pour comprendre
34:20à la fois comment
34:21cette masse d'IA
34:22va arriver dans nos métiers
34:24dans nos vies
34:24et va remplacer
34:25ça c'est aussi un choix
34:26donc c'est à nous
34:28de réguler aussi
34:29cette avancée
34:29des machines
34:30en essayant de faire comprendre
34:31à chaque fois
34:32que ces règles éthiques
34:33il faut les penser en même temps
34:34donc si on peut montrer
34:36un modèle comme ça
34:37en Europe
34:37ça serait bien
34:38si on peut montrer
34:39un modèle comme ça
34:40compétitif
34:40ça serait génial
34:41mais je crois que c'est
34:42quasiment impossible
34:43me disent les économistes
34:44donc il faut changer
34:46les mentalités
34:46et ça ça prend du temps
34:47donc il faut que l'école
34:49ait un relais fort
34:50là dessus
34:50je pense qu'en maternelle
34:52on peut faire de l'éthique
34:53en première
34:53toute l'éducation
34:56doit comprendre
34:57et bon c'est de la philo
34:58de toute façon
34:59que c'est important
35:00les japonais
35:02ont un truc très bien
35:03pour ça ils disent
35:04il faut qu'on recherche
35:05son ikigai
35:05vous connaissez ça
35:06l'ikigai
35:07c'est à dire son épanouissement
35:09en tant qu'être
35:10c'est à dire
35:11qu'est-ce qu'on aime faire
35:13premier point
35:14qu'est-ce qu'on sait faire
35:15deuxième point
35:16qu'est-ce qu'on fait
35:18qui est utile à la société
35:19troisième point
35:20quatrième point
35:21est-ce que la société
35:22est prête à payer pour ça
35:23et donc trouver cet équilibre
35:25de vie
35:26c'est à dire à la fois
35:27de satisfaire des besoins
35:28notre récomposition financièrement
35:29mais en même temps
35:30d'avoir une utilité sociale
35:31c'est quelque chose
35:33qu'on peut apprendre
35:33apprendre à raisonner
35:35en tout cas
35:36dans ce sens-là
35:37pour introduire
35:38de l'éthique
35:39dans ce qu'on fait
35:39je crois qu'il y a une question
35:42moi j'ai pas une question
35:43mais je voudrais dire
35:44deux trois choses
35:45je suis ancien
35:47je suis retraité
35:47mais je suis ancien
35:48chef de la mission de transport
35:49au service de la recherche
35:50du CGDD
35:51donc les histoires
35:53de véhicules autonomes
35:54m'intéressent beaucoup
35:55et plus largement
35:56d'ailleurs tout ce qui est
35:56intelligence artificielle
35:57alors la première chose
35:58que je voudrais faire remarquer
36:00c'est que
36:00dans ce qui nous a été dit
36:02en particulier
36:02ce qu'a dit
36:03madame de Villiers
36:04sur sa petite anecdote
36:05il y a effectivement
36:07l'intelligence artificielle
36:08mais il y a surtout
36:08les objets connectés
36:10c'est-à-dire qu'on est
36:12dans un réseau
36:13d'objets connectés
36:14dans ces histoires-là
36:15on n'est pas juste
36:15dans une intelligence artificielle
36:17qui fait quelque chose
36:18à notre place
36:18ou qui nous seconde
36:19dans ce qu'on fait
36:20donc ça c'est un truc
36:22qui est très important
36:22à tel point que
36:23si on parle du véhicule autonome
36:25sans parler du niveau 5
36:27les premières réactions
36:29qu'il y a eu
36:30en termes
36:31on va dire
36:31juridico-légal
36:33ça a été la gendarmerie nationale
36:34en France
36:35qui s'est intéressée
36:36à la cybersécurité
36:37et à la cybercriminalité
36:38sur ces véhicules autonomes
36:40en fait
36:40tout ça étant lié
36:41à la fois au véhicule autonome
36:42et les éléments
36:44en tournée autonome
36:45qu'il y a dans les véhicules
36:46et aux objets connectés
36:47qui peuvent être hackés
36:49etc.
36:49donc ça c'est un aspect
36:50qui n'a pas été abordé
36:51mais qui est quand même
36:52très très important
36:53donc ça c'est une première chose
36:55ensuite
36:56vous avez parlé
36:58de choix de société
36:59en fait
36:59c'est ça qui est important aussi
37:01et
37:01dans l'intelligence artificielle
37:03on est plus dans des projets
37:04industriels
37:04que dans des choix de société
37:05alors ça c'est encore vrai
37:07pour les véhicules autonomes
37:08parce qu'il faut savoir
37:09qu'est-ce qu'on veut faire
37:09avec les véhicules autonomes
37:11est-ce qu'on est dans une vision
37:12du grand remplacement
37:13de toutes les voitures
37:15par des véhicules autonomes
37:16qu'est-ce qu'on veut faire avec ça
37:17on a beaucoup parlé
37:18de la sécurité routière
37:19en disant d'ailleurs
37:21qu'on ne savait pas trop
37:22si ça allait être
37:22plus efficace
37:23qu'un être humain
37:24en réalité
37:26quand on regarde
37:27sur quoi on peut se projeter
37:28en termes de société
37:30et surtout en termes écologiques
37:32on voit que
37:33les véhicules autonomes
37:35ça peut permettre
37:36d'avoir des voitures
37:37sans conducteur
37:38et en particulier
37:38des taxis partagés
37:39etc.
37:40qui peuvent apporter
37:41un grand nombre de choses
37:42en matière environnementale
37:44voilà
37:45donc il y a
37:45tous ces aspects là
37:46qui sont plutôt
37:47des aspects de choix société
37:48qui peuvent éclairer
37:49à la fois l'éthique
37:50et la déontologie
37:50si on laisse
37:52et c'est très très vrai
37:54dans les véhicules connectés
37:55encore une fois
37:55si on laisse juste
37:56ces choses là
37:57être des projets industriels
37:58et qui visent
38:00à un grand remplacement
38:01ou un petit remplacement
38:02je ne sais pas comment
38:02on peut dire ça
38:03on s'aperçoit
38:04que les industriels
38:05dans la voiture connectée
38:07ils ont fait plein plein de choses
38:09sans se soucier souvent
38:10ou très peu
38:10des problèmes de sécurité
38:11par exemple
38:12de cybersécurité
38:13et qu'on vient après coup
38:15essayer de les régler
38:15et c'est très difficile
38:16voilà ce que je voulais dire
38:18Merci pour votre commentaire
38:19est-ce que ça vous...
38:20Oui Olivier Rfilat
38:21vous pouvez évidemment réagir
38:22Oui je suis d'accord
38:24avec les points
38:25qui ont été abordés
38:27évidemment
38:27sur la question
38:29de la sécurité
38:31liée aux objets
38:32déjà aux objets
38:33communiquants
38:34donc on a
38:36beaucoup de travaux
38:37qui sont harmonisés
38:38maintenant à l'échelle
38:39européenne
38:39sur ce sujet là
38:41mais qui ont été lancés
38:41relativement récemment
38:43puisque les gros projets
38:44européens ont été initiés
38:45en 2016
38:46sur cette question
38:47donc en effet
38:48c'est déjà un peu tard
38:50quand on voit les problèmes
38:51que ça peut soulever
38:52sur le problème de hacking
38:54on se concentre aussi
38:56sur les problèmes
38:56de hacking de capteurs
38:57qui sont extrêmement sensibles
38:59du type les capteurs laser
39:00qui ne serait-ce que pour
39:01aujourd'hui
39:02vous faites rouler
39:03deux véhicules autonomes
39:05qui vont se rencontrer
39:06l'un ou l'autre
39:06vous allez avoir
39:07des interférences
39:08liées aux capteurs laser
39:09si vous vous trouvez
39:10avec les mêmes types
39:11les mêmes marques de capteurs
39:12d'un véhicule
39:13et de l'autre
39:14en fait vous allez voir
39:15des choses
39:16qui sont complètement
39:16aberrantes
39:18donc là il y a des grosses difficultés
39:20d'ailleurs il y a eu
39:20déjà des démonstrations
39:22qui ont été faites
39:23avec des équipements
39:24de l'ordre
39:25de 30 à 40 euros
39:26c'est très facile
39:27de leurrer
39:27des capteurs laser
39:28et de pouvoir
39:30du coup
39:31arrêter complètement
39:31un trafic
39:32ou mettre carrément
39:33un véhicule
39:34dans le bas côté
39:34donc il y a cette
39:36question là
39:38et donc après
39:40vous avez abordé
39:41du coup
39:42la question des usages
39:44donc d'un point de vue
39:45société
39:46donc là c'est vrai
39:47que j'en ai pas trop parlé
39:48parce que là
39:49j'ai essayé de me concentrer
39:50sur les aspects
39:51purement intelligence proche
39:53mais en effet
39:53les usages
39:54ils vont être
39:55complètement modifiés
39:57et c'est encore assez difficile
39:58de savoir comment
39:59ils vont être modifiés
39:59il y a certains chercheurs
40:01qui sont plutôt pessimistes
40:02même à dire que du coup
40:04les véhicules autonomes
40:04ils vont générer
40:05une flotte de véhicules vides
40:06qui vont circuler
40:07du type
40:08moi si je travaille
40:09dans Paris
40:10au lieu de me garer
40:10le parking à côté
40:12qui coûte 25 euros
40:13la journée
40:14ou je sais pas combien
40:14du coup je vais le renvoyer
40:16chez moi en banlieue
40:16et c'est très pratique
40:18donc du coup
40:18j'ai deux fois plus
40:19de véhicules
40:20qui vont circuler
40:21donc la question des usages
40:22elle peut se poser
40:24de manière
40:24aussi décorrélée
40:26des véhicules autonomes
40:27donc les taxis partagés
40:28ça existe
40:29dans certains pays
40:31par exemple
40:31si je reviens
40:32sur le cas de la Chine
40:33que je connais assez bien
40:34les taxis partagés
40:36existent déjà
40:37tout est programmé
40:40donc il y a
40:40un hyperviseur
40:41donc Didi
40:42qui est l'équivalent
40:43de Uber en Chine
40:44hypervise
40:45ce genre de trajet
40:46donc on peut se déplacer
40:47à plusieurs
40:48donc voilà
40:49j'essaie un peu
40:50de séparer les deux
40:51mais au delà de ça
40:52ça va complètement
40:53transformer
40:53ça va complètement
40:55transformer les villes
40:55aussi
40:56donc si on renvoie
40:57nos véhicules
40:58chez nous
40:58pour se stationner
40:59on aura peut-être
41:00plus besoin du tout
41:01d'avoir des parkings
41:02en ville
41:02voilà donc
41:05cette question
41:06des usages
41:07elle est extrêmement complexe
41:08c'est pas mon sujet
41:09principal
41:10mais j'avoue
41:10que ça m'intéresse assez
41:12il y a d'autres personnes
41:13à l'IFSAR
41:13qui travaillent aussi
41:14sur cette question-là
41:16particulièrement
41:16alors je sais qu'il y a
41:18encore une question
41:18là ici
41:19je me tourne vers l'organisateur
41:20il est déjà midi et demi
41:21parce que comme ça
41:22c'est très très dense
41:22est-ce qu'on attend encore
41:23est-ce qu'il y aura après
41:24éventuellement d'autres questions
41:25je jette un oeil
41:27alors voilà
41:29on prendra la question
41:29de monsieur et de monsieur
41:30voilà
41:30voilà très bien
41:32merci beaucoup
41:32allez-y
41:33oui bonjour
41:34je vais commencer par me présenter
41:35Pierre Greffet
41:36je travaille au service statistique
41:37du ministère
41:38de la transition écologique
41:39et solidaire
41:40sur la problématique
41:41des transports
41:42alors je tiens à saluer
41:43la qualité des interventions
41:45j'ai toutefois noté
41:47qu'il y a un terme
41:48qu'on n'a pas beaucoup entendu
41:48c'est le terme de l'algorithme
41:50qui est quand même
41:51très très important
41:52sur le sujet
41:53de l'intelligence artificielle
41:55et j'avais une question
41:56sur le sujet
41:59des objets connectés
42:00dont monsieur a parlé
42:00au titre de mes précédentes fonctions
42:02j'ai eu à co-rédiger
42:05un rapport sur les objets connectés
42:06utilisé pour la forensic
42:08à l'énergie
42:09et effectivement
42:10la problématique
42:11c'est la généralisation
42:12de ces objets connectés
42:13c'est-à-dire que
42:14quand on achète
42:15un Google Home
42:16on sait que c'est un objet connecté
42:18on fait cette démarche
42:19quelque part
42:20on consent sciemment
42:22explicitement
42:22à céder
42:23des données personnelles
42:25par contre
42:25c'est pas forcément le cas
42:26sur tous les objets
42:27les frigos aussi
42:28demain ils sont tous connectés
42:29comment je fais pour
42:30mettre un silence numérique
42:32couper la connexion
42:33voilà
42:34donc je voulais avoir
42:35la réaction
42:36des intervenants
42:37sur ce sujet
42:38de la généralisation
42:39des objets connectés
42:40Yann Aljana
42:42merci
42:42je crois que
42:44l'appellation
42:45c'était le droit
42:46au silence des puces
42:47et ça me semble
42:49donc
42:49des puces de connexion
42:50et
42:51effectivement
42:53ça me semble une bonne idée
42:53qu'on puisse faire
42:54ces déconnexions
42:55après on n'a pas
42:57les services aussi
42:57qui sont rendus
42:58mais
42:58ça permet de
43:00au moins de récupérer
43:01une forme d'autonomie
43:03sur cette question là
43:03donc je pense que c'est
43:04un élément
43:05qui peut être
43:06utile à envisager
43:08pour qu'effectivement
43:09quelqu'un qui dit
43:09j'ai un objet chez moi
43:10si je souhaite
43:11qu'il soit déconnecté
43:12que je puisse le faire
43:13ça me semble
43:13effectivement une bonne idée
43:14sur l'IoT
43:21je pense que c'est dramatique
43:22effectivement
43:22il y a énormément de choses
43:24à faire
43:24en plus de ça
43:25c'est-à-dire qu'il faut aussi
43:26qu'il y ait les mêmes objets
43:27qui existent
43:28sans aucune connexion
43:29on continue à considérer
43:31qu'il y a 20% de la population
43:32qui ne va pas être connectée
43:33ou qui ne voudra pas l'être
43:34ou je ne sais pas
43:35pour l'instant
43:36il ne faut pas
43:37qu'on se retrouve
43:38devant un non-choix
43:39donc ces objets
43:41qui arrivent de partout
43:42il y en a beaucoup
43:43qui sont des gadgets
43:44moi j'aimerais bien aussi
43:45qu'il y ait une police
43:46des gadgets
43:46parce que ça pollue
43:48énormément
43:50il y a des problèmes
43:52aussi on pourrait pousser
43:55en disant
43:55voilà les objets
43:56il faudra les concevoir
43:57pour qu'ils soient réparables
43:58je suis la seule
44:01à penser ça
44:01il y a une feuille de route
44:03sur l'économie circulaire
44:04c'est quand même un thème
44:04qu'on essaie de pousser
44:06après est-ce qu'on va y arriver
44:07jusqu'à quel point
44:08il y a des limites
44:08il faut mettre la pression
44:10un peu
44:11réparables
44:14et puis
44:15que effectivement
44:17ça soit des nouveaux métiers
44:19aussi
44:19moi j'entends
44:20à chaque fois dire
44:21on va détruire des métiers
44:23bon je suis bien consciente
44:25qu'il va y avoir
44:25des métiers détruits
44:26j'en vois déjà
44:27qu'ils disparaissent
44:28les caissières font plus
44:28ça
44:29elles surveillent les voleurs
44:30dans les boutiques
44:31par exemple
44:32qui n'est pas le même job
44:32effectivement
44:33ou alors elles surveillent
44:34la machine automatique
44:35dont vous vous servez
44:36ça c'est pas mal aussi
44:37c'est bon
44:37là on se rend bien compte
44:39tous les taxis
44:40qui maintenant
44:40disent vous faites quoi
44:42ah ben on va disparaître
44:43écoutez non
44:46pas encore
44:46mais probablement
44:49mais ça serait bien aussi
44:50alors donc les discussions
44:51sont
44:52mais je pense que ça va arriver
44:53beaucoup plus vite
44:54qu'on ne le pense
44:55pour les voitures
44:55et puis pour l'IoT aussi
44:57on va en avoir partout
44:58sous prétexte
44:59pour régler notre santé
45:00on va y aller
45:01combien de personnes
45:02ont les mondes connectées
45:03combien de personnes
45:04ont des trucs
45:05de partout
45:06pour vérifier comment on dort
45:07qu'est-ce qu'on mange
45:08etc
45:08ça va arriver
45:10à toute blinde
45:10et je pense qu'à chaque fois
45:12on va être en retard
45:13parce que quand on dit
45:14que c'est urgent
45:14on me dit
45:15ben non
45:15on attend
45:16on verra bien la jurisprudence
45:18n'est-ce pas
45:19c'est important à souligner
45:20alors on va prendre
45:20une dernière question
45:21vous voulez peut-être
45:21dire si vous voulez
45:22non c'est bon
45:23alors dernière question
45:24de monsieur
45:24je vous en prie
45:24bonjour
45:25Jacques Lemaire
45:26des GEPHIP
45:27j'ai travaillé
45:29à une époque
45:30sur les systèmes experts
45:31j'ai vu que vous
45:32les aviez enterrés
45:33comme étant
45:34non pertinents
45:35en termes
45:36d'intelligence artificielle
45:38et pourtant
45:39ils avaient une grande vertu
45:40c'était qu'il y avait
45:41on pouvait expliquer
45:42le raisonnement derrière
45:43et donc je
45:45voilà
45:46je voulais poser la question
45:47c'était
45:47est-ce que ça a vraiment
45:49est-ce que c'est
45:50complètement disparu
45:51ou est-ce qu'il y a des gens
45:51qui réfléchissent
45:52à remettre ça
45:54au goût du jour
45:55l'une des raisons
45:57pour lesquelles ça a disparu
45:58c'était que
45:59par exemple
45:59un système expert
46:02était intéressant
46:03pour expliquer
46:04justement
46:05mais à l'époque
46:06il n'y avait pas
46:07de HTML
46:07enfin il y avait
46:09SGML
46:09mais c'était un peu lourd
46:10il y avait
46:12la connexion
46:13aux différents
46:14capteurs
46:15était compliquée
46:15maintenant
46:17il y a des standards
46:18en termes de communication
46:19enfin voilà
46:19non mais
46:21je les ai intéressés
46:23ça a culminé
46:23dans les années 90
46:24voilà
46:25ça a atteint
46:25son apogée
46:26dans les années 90
46:27après ça chute
46:27mais une grande partie
46:29en fait de notre industrie
46:30utilise des systèmes experts
46:31les réseaux de neurones
46:34le deep learning
46:34dont on parle tant
46:35c'est quel pourcentage ?
46:37la publicité
46:39il faut faire attention
46:41la réalité
46:42c'est qu'il y a
46:42beaucoup de systèmes experts
46:43un peu partout
46:43qui sont de l'automatisation
46:46qu'on peut vérifier
46:47explicable
46:48effectivement
46:48et très bien
46:48il n'est pas forcément utile
46:50de tout chambouler
46:51il faut voir à quoi
46:52c'est utile
46:53ces systèmes
46:54d'ailleurs le deep learning
46:55n'est pas utile pour tout
46:56il est très utile
46:57pour le bas niveau
46:58pour détecter des pannes
47:00pour le raisonnement logique
47:02sur les choses
47:03on a encore des systèmes
47:04qui sont à base
47:06de règles symboliques
47:07donc c'est l'hybridation
47:09entre du deep learning
47:10et d'autres systèmes
47:11qu'on est en train de faire
47:12c'est pas un remplacement
47:13de tous les systèmes
47:14à base de règles
47:16si je peux compléter
47:17la réponse
47:18en France
47:19sur les prototypes
47:19que l'on a
47:20de véhicules autonomes
47:21de niveau 4
47:23on n'a pas grand chose
47:24au dessus
47:25on est principalement
47:27sur des systèmes experts
47:28enfin en tout cas
47:29on est plutôt
47:30dans cette catégorie là
47:31des méthodes formelles
47:32où on va être capable
47:34de vraiment
47:34prédire les sorties
47:35de nos algorithmes
47:38en fonction
47:38de ce qu'on a en entrée
47:39mais après
47:40il faut
47:40bon ça c'est
47:41un point particulier
47:42mais par exemple
47:44les véhicules américains
47:45ou les véhicules chinois
47:46ils vont utiliser
47:47beaucoup plus
47:48d'intelligence artificielle
47:49à base
47:50d'apprentissage
47:52et moi
47:54ce que j'essaie de séparer
47:55c'est dans le schéma
47:56que j'ai montré
47:56au moment
47:57où il y a
47:57les différentes
47:58briques
48:00de l'algorithme
48:01qui sont présentées
48:02en fait
48:03ce qu'on avait
48:03tout en haut
48:04sur les parties
48:04perception
48:04etc
48:05ça ce sera
48:06probablement
48:07plutôt traité
48:07avec des méthodes
48:08par apprentissage
48:09parce que
48:10c'est plus performant
48:12et il y a des choses
48:12qui sont vraiment
48:13trop compliquées
48:14à pouvoir détecter
48:15par des méthodes formelles
48:17voire impossibles
48:18par contre
48:19sur de la planification
48:20mon point de vue
48:22personnel
48:22et ce qui se développe
48:24au sein de mon laboratoire
48:25c'est plutôt
48:25de partir sur des méthodes
48:26pures d'automaticien
48:27bon il se trouve
48:28que je suis automaticien
48:29donc ça aide
48:29mais en tout cas
48:31on pense aussi
48:32que d'un point de vue
48:32concret
48:34on gardera plus facilement
48:35le contrôle de la machine
48:36parce qu'on sait
48:37elle sait ce qu'elle va décider
48:40mais c'est un peu un fantasme
48:42parce que du coup
48:42en entrée
48:43on a déjà des choses
48:44qui sont détectées
48:44par apprentissage
48:45mais voilà
48:46on se dit
48:47on a envie
48:47que la machine
48:48soit un peu notre esclave
48:49donc c'est ce qu'on aimerait garder
48:51alors je voulais peut-être
48:53terminer par aussi
48:54une petite anecdote
48:55mais qui résume peut-être
48:56tout ce qu'on a dit ce matin
48:57je ne sais pas si vous avez vu
48:58qu'au Japon
48:58ils avaient décidé
48:59de faire un hôtel
49:00100% géré par des robots
49:01qui s'appellent ENA
49:02et en tout cas
49:03ils l'ont largement mis en avant
49:05et 243 robots
49:06et il y a un malheureux assistant
49:08personnel dans l'hôtel
49:10qui a fait des siennes
49:11il s'appelle Choury
49:12et en fait
49:12le client
49:13ronflait
49:14et il ne comprenait pas
49:15il lui répondait régulièrement
49:16pardon je ne suis pas sûre
49:17d'avoir compris
49:18donc il a révélé le monsieur
49:19assez régulièrement
49:20donc finalement
49:21ils ont décidé
49:21de licencier les robots
49:22et vont faire appel
49:23à des humains
49:24bon tout ça pour dire
49:25c'est une petite anecdote
49:26mais tout ça pour dire
49:27que finalement
49:27il y a encore
49:28des choses à faire
49:29à évoluer
49:29mais en tout cas
49:30c'est important
49:30d'avoir mis en avant
49:31les questions de réglementation
49:32d'éthique
49:32et je pense que ça a soulevé
49:33beaucoup de questions
49:34et je vous remercie beaucoup
49:35tous les trois
49:36d'être venus ce matin
49:37pour ce colloque
49:38et merci à vous tous
49:39pour votre écoute
49:39on peut vous applaudir
49:40merci
49:41merci
Recommandations
7:01
|
À suivre
58:01