Retrouvez « Nouvelles têtes » présenté par Mathilde Serrell sur France Inter et sur : https://www.radiofrance.fr/franceinter/podcasts/nouvelles-tetes
Catégorie
🗞
NewsTranscription
00:00Place aux nouvelles têtes, Mathilde Serrel ! Ce matin, une étoile montante de l'intelligence
00:04artificielle made in France, merci de nous avoir fait perdre nos boulots, et une combattante
00:09de la démocratie à l'ère numérique ! La chercheuse Camille François est dans notre studio.
00:14Bonjour Camille François, vous êtes aussi ce qu'on appelle une trekkie, une fan de
00:33Star Trek, et particulièrement de la déclinaison Star Trek Deep Space Nine, avec le capitaine
00:39Sisko.
00:40On est en train d'écouter le générique.
00:41Quelle influence sur vous, la femme de tech, Star Trek a eue ?
00:45Star Trek finalement c'est une vision du futur assez optimiste, à la fois côté géopolitique
00:51et côté technologique, et c'est vrai que je suis une optimiste, et du coup c'est pour
00:55ça que oui, j'aime bien Star Trek, je suis une trekkie.
00:57Quand vous écoutez la chronique de Charline à l'instant par exemple sur les capacités
01:02de simulation, de remplacement, on parle parfois de grand remplacement par l'IA, qu'est-ce
01:07que vous vous dites ? Qu'en rassureriez les auditeurs d'Inter ?
01:11Alors déjà, je me dis qu'il faut maintenant passer à la version vidéo de la chronique,
01:16puisque aujourd'hui vous avez eu la version audio, c'est tout à fait possible, c'est
01:22possible avec beaucoup d'outils différents en fait, et puis je trouve que c'est une
01:27chronique qui souligne en effet que sur l'intelligence artificielle, on a aussi des risques de fraude,
01:33des risques de deepfakes, on comprend bien aujourd'hui pourquoi il faut réfléchir
01:37à la sécurité aussi de ces technologies, et pourquoi il faut les encadrer, et c'était
01:41une chronique assez formidable, et puis surtout j'ai beaucoup aimé voir vos réactions à
01:47tous les deux.
01:48Mais surtout c'est une chronique qui fait la promo de votre job en fait, précisément.
01:52Vous êtes devenue une des nouvelles voix de l'IA en France, notre future Catherine
01:56Deneuve des modèles open source, allez ! Vous avez été sélectionnée par le forum de
02:01Davos parmi les young global leaders, classée parmi le magazine American Time dans les 100
02:05étoiles montantes qui vont changer le monde, repérée aussi parmi les 35 innovateurs de
02:09moins de 35 ans dans la revue de référence de votre secteur, la revue du MIT, et tout
02:15ça pour votre expertise visionnaire en matière de sécurité, cybersécurité à l'aide
02:20de l'IA, et cybersécurité sur l'IA.
02:23Expliquez-nous justement, vous votre boulot c'est d'empêcher que des trucs qu'on
02:27vient entendre comme ça se propagent partout.
02:29Tout à fait, en tout cas d'accompagner cette révolution de l'IA qui est une vraie
02:33révolution technologique, scientifique et sociétale, et de permettre de mieux comprendre
02:38comment est-ce que cette révolution, on peut la faire bénéficier à l'intérêt public.
02:42Donc se poser cette question de comment est-ce qu'on fait bénéficier l'intérêt public
02:47de l'intelligence artificielle, c'est d'abord évidemment de se demander où est-ce qu'on
02:50a besoin de l'IA, par exemple pour accélérer la découverte de nouveaux traitements en
02:54médecine, mais c'est aussi se poser la question de comment est-ce qu'on construit
02:58l'IA pour que chacun puisse se l'approprier, pour qu'on puisse vraiment avoir une IA
03:02ouverte, pour qu'on puisse la comprendre, l'adapter, la transformer aussi à des usages
03:07qui font sens.
03:08Et puis bien sûr, ça veut dire être proactif sur les risques de l'IA, comprendre quels
03:12sont les risques que ça va poser à la société, à nos démocraties, et permettre de construire
03:17les outils pour mieux gérer ces risques-là.
03:19Vous êtes experte en manipulation numérique, on pourrait dire, vous êtes experte en ingénieur
03:24du chaos d'une certaine manière.
03:25La première fois que vous avez fait des travaux très conséquents, c'était en 2016, sur
03:29l'influence russe sur les élections américaines, qu'est-ce que vous y avez découvert ?
03:32Tout à fait.
03:33En travaillant sur ces ingérences, on a pu découvrir qu'il y avait certains états
03:39qui se servaient, en l'occurrence, des réseaux sociaux, pour faire des campagnes d'ingérence
03:44dans les démocraties.
03:45C'est une question qui s'est posée sur les réseaux sociaux, on a découvert un peu
03:51tout ce qui venait avec la désinformation, que pendant longtemps, les réseaux sociaux
03:55n'avaient pas vraiment... c'était pas vraiment posé la question, on avait quand même eu
03:58beaucoup de retard sur la gestion de ce risque-là.
04:01Aujourd'hui, l'idée sur l'intelligence artificielle, c'est d'apprendre plus rapidement...
04:04C'est-à-dire d'apprendre de nos erreurs, ce que ça pourrait être pire qu'avec les
04:07réseaux sociaux en termes d'ingérence démocratique ?
04:09En tout cas, ça va accélérer certains risques qu'on connaît grâce aux réseaux sociaux.
04:13Donc l'idée, c'est un peu de ne pas reproduire ces erreurs-là, d'apprendre rapidement de
04:16tout ce qu'on a pu comprendre sur les fraudes, l'impact sur les enfants, l'impact sur la
04:20désinformation, l'impact sur les contenus terroristes, et de pouvoir avoir une vision
04:26plus proactive et plus ouverte de la sécurité dans l'intelligence artificielle.
04:30Dans le cas des deepfakes, on a parlé de ce deepfake sonore qu'on a entendu dans la
04:34chronique de Charline, les deepfakes vidéos, ce sont des ravages aujourd'hui.
04:37Il y a des coréennes par exemple, en Corée du Sud, qui manifestent tous les jours contre
04:41les ravages des deepfakes.
04:43Qu'est-ce qui est possible de mettre en place ? Quand vous dites une IA ouverte, c'est quoi ?
04:47Bien sûr, il y a beaucoup de systèmes différents qui vont ensemble se coordonner pour qu'on
04:52puisse mieux encadrer les usages néfastes dans le cadre des deepfakes.
04:56Je vous donne un exemple précis qui est les deepfakes à caractère sexuel, et notamment
05:01les deepfakes à caractère sexuel dans le contexte des enfants.
05:04Ça, c'est quelque chose sur lequel on peut avoir un impact en faisant du filtrage des
05:09données d'entraînement et en créant un certain nombre de filtres, de systèmes de
05:15modération des contenus qui vont empêcher la génération de certains contenus particulièrement
05:19néfastes.
05:20Ce travail-là, il faut le faire, encore une fois, il faut le faire de manière ouverte,
05:23il faut que chaque innovateur puisse avoir accès à ces outils, à ces systèmes qui
05:28nous permettent d'encadrer l'IA à la fois dans son entraînement, dans sa génération
05:34et dans ses déploiements.
05:35Donc, elle doit être autant active sur l'innovation de contrôle, l'IA, que sur l'innovation
05:40de génération, de service, etc.
05:43C'est ça en fait, c'est un impératif d'accélérer aussi notre innovation sur la
05:47sécurité.
05:48C'est comme si on se disait, voilà, tout le monde construit des voitures, c'est formidable,
05:52allons vite faire des recherches sur les ceintures de sécurité, sur les airbags.
05:56Il faut comprendre comment est-ce qu'on va pouvoir faire en sorte que ces systèmes
06:00aient aussi des impacts positifs sur notre société et faire en sorte que tous ces systèmes
06:05de sécurité, les codes de la route, les airbags, les ceintures, tout ça, ce soit
06:08aussi accessible au plus grand nombre.
06:09Daniel Handler qui est mathématicien et philosophe, a cette formule sur l'IA, il dit que c'est
06:13un petit peu comme quelque chose qui est sorti du tube de dentifrice, on ne peut pas le remplir
06:17de nouveau à l'intérieur.
06:18On en est un petit peu là aujourd'hui.
06:20Maintenant il faut apprendre à se brosser les dents, oui.
06:22Vous allez être justement avec Yann Lequin tout à l'heure qui gère l'IA au sein
06:27de META.
06:28Il a eu cette formule en amplifiant l'intelligence artificielle, l'IA pourrait être à l'origine
06:31d'une nouvelle renaissance, voire d'une nouvelle période des lumières.
06:34Mais à quelles conditions ?
06:35Alors c'est beaucoup, quelles IA ? De quelles IA on parle ? Et c'est là où c'est important
06:41de valoriser cette perspective française, cette perspective européenne.
06:44Avec Yann Lequin, nous partageons la condition de la France et de l'Europe, en gros.
06:49C'est ça.
06:50On partage en tout cas tous les deux une conviction que l'IA ouverte, ça peut vraiment ici accélérer
06:57l'innovation et permettre une forme de pluralisme.
06:59Aujourd'hui, on est quand même potentiellement face à une hyperconcentration du développement
07:05d'intelligence artificielle.
07:06Dans quelques entreprises américaines, chinoises, cette hyperconcentration n'est pas forcément
07:11bénéficiaire pour nous, pour nos sociétés, pour nos valeurs.
07:13Vers des réseaux sociaux ouverts aussi, vous êtes sur Blue Sky qui est un réseau social
07:17ouvert et pas du tout sur les autres.
07:18Exactement.
07:19En fait, les consommateurs aujourd'hui, ils ont aussi le choix et on est dans un paysage
07:22où on a de plus en plus d'options, ça c'est chouette, on peut utiliser Blue Sky.
07:28Moi, j'ai téléchargé, comme beaucoup de Français, le chat sur mon téléphone pour
07:32avoir aussi une IA française.
07:33On peut faire ces choix-là, ce choix de pluralisme et de diversité dans les technologies qu'on utilise.
07:38Merci Camille François.
07:39Je rappelle que vous avez grandi à Marseille, vous êtes installée à New York et vous
07:43êtes donc tout à l'heure avec Yann Lequin à 13h55 pour une grande table ronde dans
07:47le cadre de ce sommet français sur l'IA.
07:49Bonne route.
07:50Merci beaucoup.