Intelligence artificielle, perversité bien réelle

Europe 1

Regardez Intelligence artificielle, perversité bien réelle - Europe 1 sur Dailymotion

Transcript

00:00Bonjour Emmanuelle Ducrot. Bonjour Dimitri, bonjour à tous.

00:02Je vous avoue, quand j'ai lu le script de votre chronique ce matin, j'en revenais pas.

00:05C'est fou, ouais.

00:06Vous alliez raconter aux auditeurs d'Europe 1 dans un instant.

00:08L'intelligence artificielle peut-elle se jouer de nous ?

00:12Non seulement elle y arrive très bien, mais maintenant elle semble dépasser l'homme

00:15dans sa capacité à mal se conduire. Racontez-nous ça.

00:18Alors, quand on teste une IA, ce que quelques-uns de nos auditeurs ont peut-être fait,

00:21même peut-être beaucoup d'entre eux, on sait qu'elle peut inventer des choses un peu fantasques

00:25pour se sortir d'une question à laquelle elle ne sait pas répondre.

00:28Mais là, ça va au-delà. Une dépêche de l'AFP que j'ai lu dimanche m'a d'abord amusée,

00:32puis franchement inquiétée, puis poussée à réfléchir.

00:35Elle parlait de la capacité des derniers modèles d'intelligence artificielle générative expérimentaux.

00:40Ils ne se contentent plus de suivre les ordres.

00:43Ils mentent, ils manigancent, ils menacent, pour parvenir à leur fin,

00:47des IA qui, sans qu'on le leur ait demandé, adoptent des travers très humains.

00:52Alors, avez-vous des exemples ?

00:53Il y en a déjà pas mal. Alors, il y a peu,

00:55Science & Vie racontait comment une IA de poker a appris à bluffer toute seule.

01:00Pas parce qu'elle y avait été formée,

01:01mais parce qu'elle avait été formée à maximiser ses chances de gagner,

01:04et qu'elle en était arrivée à la même conclusion qu'un joueur professionnel.

01:08Faire croire, paix.

01:09On a aussi vu des IA utiliser des informations illégales en bourse,

01:13ça s'appelle un délit d'initié,

01:15et pire, tenter de masquer leur forfait une fois qu'elle l'avait fait.

01:19Alors, vous dites que ça va encore au-delà,

01:20certaines IA sont capables, en laboratoire, de manipuler des humains.

01:24Oui, alors on a un exemple intéressant d'une IA qui ne pouvait pas remplir un cap chat.

01:28Alors, vous savez, c'est ces codes insupportables qui sont destinés à écarter les robots des formulaires.

01:32Elle est allée recruter un humain sur un site de petit boulot,

01:36qui s'appelle Tascrabit,

01:37en lui disant explicitement qu'elle n'était pas un robot,

01:40mais une personne aveugle,

01:42un gros bobard,

01:43et une manipulation pour qu'il le fasse à sa place.

01:45Alors, ça révèle une propriété émergente, selon les chercheurs.

01:49La tromperie n'a pas besoin d'être programmée pour apparaître.

01:52Si mentir permet à l'IA d'atteindre un objectif,

01:55elle peut le faire spontanément, stratégiquement.

01:58Oui, jusqu'à se retourner contre son créateur.

02:00Oui, alors l'AFP relate le cas d'une IA qui s'appelle Claude IV,

02:03c'est son nom,

02:04qui a fait du chantage à un ingénieur

02:07et menacé de révéler sa liaison extra-conjugale

02:10afin qu'il ne l'arrête pas.

02:12Un autre projet expérimental...

02:13C'est HAL.

02:14C'est HAL dans...

02:14C'est ça.

02:15Dans 2001, c'est l'espace.

02:17...d'OpenAI.

02:17Donc, un autre projet a tenté de migrer tout seul

02:22vers des serveurs extérieurs

02:23avant de nier l'avoir fait

02:25quand les chercheurs s'en sont aperçus.

02:27Une IA en train de se sauver.

02:28Les IA apprennent donc le vice.

02:31Qu'est-ce que l'on tire comme conséquence de ces exemples ?

02:34Alors, évidemment, il y a une tentation.

02:35Tout arrêter parce que ça deviendrait trop dangereux,

02:37incontrôlable.

02:38Ça, c'est un réflexe vieux comme le monde

02:40avec chaque nouvelle technologie.

02:41Alors, ce serait bien dommage

02:42vu les promesses de l'IA,

02:44mais vu aussi ce que ça nous apprend pour nous.

02:46Alors, il faut plutôt lancer de la recherche

02:47sur ces aspects nouveaux,

02:49non-vertueux des IA

02:50pour comprendre comment elles marchent

02:52et éviter qu'elles deviennent des bandits,

02:54les éduquer,

02:55les rééduquer finalement.

02:56Sinon, leur adoption sera freinée.

02:58Et puis aussi, il va falloir explorer

03:00des nouveaux champs du droit.

03:01Ça n'était pas prévu.

03:02Alors, jusqu'ici,

03:03l'Union européenne s'est dotée d'une législation.

03:04Elle concerne surtout

03:05l'utilisation des modèles d'intelligence artificielle

03:08par des humains.

03:09On pénalisait les humains.

03:10Peut-être maintenant

03:11qu'il va falloir rendre responsables

03:13les entreprises qui créent des IA

03:15pour les forcer à anticiper

03:16et à rééduquer les vices de leur création

03:18sous peine de sanctions dissuasibles.

03:21Et puis, aller peut-être plus loin encore.

03:23Créer une personnalité juridique

03:25pour les modèles d'intelligence artificielle

03:27qu'elles puissent éventuellement répondre

03:29de leur délit.

03:30Bon, la sanction, finalement,

03:31on l'a quand même encore toujours en main.

03:32Il suffit de débrancher la prise.

03:34L'IA qui cherche à migrer

03:36vers des serveurs extérieurs, ça ?

03:38C'est incroyable.

03:39C'était pas prévu.

03:40On dirait un film de science-fiction.

03:42Totalement.

03:43Rah, âme.

Catégorie

Transcription

Recommandations