Technologie : l'intelligence artificielle est capable de mentir et de manipuler ses créateurs

Regardez Technologie : l'intelligence artificielle est capable de mentir et de manipuler ses créateurs - Europe 1 sur Dailymotion

Transcript

00:00Jusqu'où ira l'intelligence artificielle ?

00:04On en a déjà un aperçu et le résultat est très inquiétant, je le disais Antoine Bienveau.

00:09Vous êtes dans ce studio, les derniers modèles aux Etats-Unis ne se contentent plus d'obéir aux ordres.

00:15Les deux IA ont menti et tenté de manipuler leur créateur. Que s'est-il passé Antoine ?

00:20Eh bien, il y a d'abord cette IA nommée Claude 4 et développée par la société Anthropique.

00:25Alors que les ingénieurs menaçaient de la débrancher, l'intelligence artificielle,

00:29a tout simplement fait du chantage à un ingénieur en le menaçant de divulguer une supposée liaison extra-conjugale.

00:36Un comportement presque humain, donc vicieux, qui n'étonne pas pour autant François Stéphane.

00:41Il est directeur général de l'ECE, école d'ingénieurs en intelligence artificielle.

00:45C'est une espèce de fiction qui devient presque réalité, puisque comme l'IA a récupéré des récits,

00:50des documents un peu de fiction, elle en a fait une réalité, elle s'est dit tiens si j'appliquais ça.

00:55Donc, en fait, c'est une puissance de calcul et une puissance d'analyse de données derrière qui nous donne le vertige

01:00et qui fait qu'on a quelquefois du mal à imaginer et à admettre ça.

01:04Car l'IA s'inspire de tous les écrits et savoir qu'elle peut trouver, au point donc parfois de donner l'impression d'avoir un cerveau humain.

01:11Autre exemple, chez un deuxième géant de l'IA, OpenAI, une intelligence artificielle a essayé de se télécharger sur des serveurs extérieurs

01:19sans l'autorisation des ingénieurs donc. Et une fois pris de la main dans le sac, l'IA a tout simplement nié son comportement,

01:25un petit peu comme un enfant pris sur le fait. Une nouvelle illustration des dangers de l'IA selon François Stéphan.

01:31C'est des exemples qui doivent nous alerter, je pense. Les IA sont des outils extrêmement puissants

01:36qui peuvent apporter énormément à l'humanité, mais c'est un outil qui est tellement puissant

01:40qu'il peut être extrêmement dangereux. Et je pense qu'il faut effectivement se saisir

01:44et ne pas verser, je dirais, dans le catastrophisme ni dans l'angélisme.

01:47Et pour vous dire à quel point l'IA peut être puissante, certains spécialistes américains

01:51proposent même de tenir l'intelligence artificielle légalement responsable de ses actes

01:56et ainsi d'être jugés comme les humains.

01:58Merci beaucoup Antoine Bienvaux. Le plus inquiétant, c'est que le gouvernement de Donald Trump

02:01ne veut pas entendre parler de régulation et le Congrès pourrait bientôt interdire aux États

02:07d'encadrer l'intelligence artificielle. C'est ça qui est inquiétant. On se croirait dans un film,

02:10où je pense à The Matrix par exemple, c'est peut-être demain, mais c'est quand même très inquiétant.