L'essor des deepfakes : l'IA crée de nouvelles menaces pour la sécurité et la confidentialité

euronews (en français)

Dans cet épisode de Sci-Tech, nous explorons la résurgence rapide des deepfakes, portée par les avancées de l'IA générative.

Transcript

00:00Et nous avons reçu des mails dégueulasses demandant de l'argent, promettant des choses trop bonnes pour être vraies.

00:09Une intelligence artificielle pourrait être utilisée pour essayer de nous déguiser.

00:13Un deep fake est une copie produite par l'IA d'un être humain.

00:17Et cette technologie rend le fraude d'un nouveau type très très possible.

00:22Une banque lutte contre les deepfakes avec des deepfakes.

00:27Pour les fraudes, c'est un outil puissant qu'ils peuvent utiliser pour voler votre argent.

00:35Bienvenue à cette édition de SciTech de Londres, où nous nous déversons dans la croissance des deepfakes.

00:40Vidéo, audio et photos qui semblent réelles, mais ne le sont pas.

00:44Comme cette introduction, ce n'était pas moi.

00:47En fait, c'était mon avatar, créé en utilisant l'intelligence artificielle.

00:52Pouvez-vous dire la différence ?

00:56Mon avatar a été créé avec mon consentement grâce à une plateforme dirigée par Synthesia.

01:01Elle produit des contenus générés par l'intelligence artificielle pour des raisons légitimes.

01:06Comme des vidéos de formation, de marketing et de service client.

01:10Avec des garanties strictes en place.

01:13Nous n'aurions jamais créé un avatar de quelqu'un sans leur explicite consentement.

01:16L'autre est le contrôle.

01:17Nous appliquons la modération des contenus sur les vidéos créées.

01:20Et le troisième est la collaboration.

01:22Nous travaillons avec des groupes d'industrie, avec les gouvernements et les policiers

01:26pour s'assurer que la technologie soit développée et utilisée de manière responsable.

01:32Les deepfakes qui ont un intent malicieux

01:34copient l'image de personnes réelles

01:36de photos, vidéos et audio

01:39pour les mal-représenter ou une organisation.

01:42Le professeur Michael Woodridge,

01:44un expert de l'intelligence artificielle à l'Université d'Oxford,

01:47dit que la technologie s'améliore rapidement.

01:52Si vous pouvez le faire jusqu'au point

01:54où vous pouvez être en contact

01:56avec quelqu'un que vous pensez être votre boss

01:58en regardant une vidéo de quelqu'un

02:00et c'est une vidéo produite par l'intelligence artificielle

02:02sur l'autre côté,

02:03alors ça commence à devenir très difficile

02:05de savoir ce qui est réel et ce qui est faux.

02:07Dans un surveil publié en juillet,

02:10juste plus de 40% des répondants,

02:12âgés 16 ans et plus,

02:14ont dit avoir vu un deepfake

02:16dans les six dernières semaines.

02:18Mais moins de 1 en 10

02:20ont dit avoir pu le voir.

02:24Une banque a maintenant lancé une campagne

02:26qui déploie son propre contenu deepfake

02:28pour amener l'awareness des dangers.

02:31Comme vous l'aurez peut-être imaginé,

02:33ce n'est pas moi, c'est un deepfake

02:35créé pour vous rappeler des deepfakes.

02:37Les entreprises technologiques

02:39tâchent aussi des deepfakes.

02:41Cette nouvelle fonction de téléphone

02:43pète l'intelligence artificielle contre l'intelligence artificielle,

02:46en permettant aux utilisateurs de voir

02:48ce qui est réel et ce qui n'est pas.

02:50L'intelligence artificielle de l'appareil

02:52apporte un scan facial d'une personne

02:54dans une image ou un vidéo.

02:56L'algorithme analyse les choses comme la composition,

02:58s'il y a des imperfections de pixels

03:00ou s'il y a des anomalies

03:02dans les fonctionnalités faciales

03:04de la personne dans l'image ou le vidéo.

03:06Et crucialement, il permet aux utilisateurs

03:08de voir en temps réel si cette personne est réelle.

03:10Voyons un exemple spécifique.

03:12Si nous regardions cette dame,

03:15que pensez-vous? Réel ou faux?

03:17C'est difficile à dire, n'est-ce pas?

03:19Je ne sais pas si c'était un deepfake ou non.

03:21Voyons un exemple.

03:23Si je clique sur la capsule magique,

03:25vous pouvez voir que l'intelligence artificielle

03:27apporte un scan facial

03:29pour déterminer si cette personne est réelle.

03:31Et dans quelques secondes, nous avons une réponse.

03:33Ici, nous pouvons voir que le swap de visage

03:35a été détecté et la probabilité

03:37que cette personne n'est pas réelle est de 93%.

03:39Cela alerte l'utilisateur

03:41que la personne n'est pas réelle,

03:43et qu'elle peut être en danger

03:45d'être frappée.

03:47Donc maintenant, vous êtes une entreprise

03:49technologique qui lutte contre la technologie.

03:51Pour nous, c'est une question

03:53d'assurer la sécurité et la privilégie

03:55de nos utilisateurs.

03:57Je pense que nous savons tous que la technologie

03:59a développé à un certain rythme

04:01grâce à l'intelligence artificielle.

04:03Et il y aura certainement des gens

04:05qui seront déterminés à l'exploitation

04:07grâce à la création des deepfakes.

04:09Et à un niveau industriel, je pense qu'il y a

04:11beaucoup d'intérêt dans la création

04:13des deepfakes à l'avenir.

04:15La fraude n'est pas le seul souci.

04:17Les deepfakes sont aussi un moteur

04:19d'abuse d'image intime en ligne.

04:21Une victime dont l'identité réelle

04:23est protégée par cet avatar

04:25a été deepfakée par un ancien ami.

04:27J'ai été confus et j'ai été attiré.

04:29Un documentaire sur ce genre

04:31d'abuse de deepfake a créé

04:33un groupe de campagnes

04:35qui demandent maintenant

04:37des réglementations plus difficiles

04:40J'ai parlé à plus de 30 survivants.

04:42Et dans chaque cas,

04:44leurs vies ont diminué.

04:46Cela a eu un impact sur leur emploi,

04:48sur leur carrière, sur leur corps,

04:50sur leur identité.

04:52Les risques ne pouvaient pas être plus élevés.

Catégorie

Transcription

Recommandations

L'essor des deepfakes : l'IA crée de nouvelles menaces pour la sécurité et la confidentialité

Catégorie

Transcription

Recommandations

L'essor des deepfakes : l'IA crée de nouvelles menaces pour la sécurité et la confidentialité