L'édito de Mathieu Bock-Côté : «Intelligence artificielle : l'alerte d'Elon Musk» - Vidéo Dailymotion

CNEWS

Dans son édito du 30/03/2023, Mathieu Bock-Côté revient sur les dangers de l'intelligence artificielle.

Transcript

00:00 - C'est le moins qu'on puisse

00:02 dire. On sent que l'intelligence

00:04 artificielle, plus largement,

00:06 surgit dans nos existences et on

00:08 n'a pas le temps de s'y

00:10 acclimater, de l'apprivoiser.

00:12 Ça bouleverse tout et on sent

00:14 qu'on est à un moment

00:16 exponentiel dans la croissance

00:18 de l'intelligence artificielle

00:20 et que demain ou après-demain,

00:22 effectivement, tout pourrait

00:24 nous échapper. Alors, qu'est-ce

00:26 qu'on demande? Je vais d'abord

00:28 demander une pause de six mois,

00:30 au moins, parce que sinon, sinon,

00:32 dans six mois, on aurait perdu

00:34 le compte. Donc, comprenons-nous,

00:36 les plus grands experts de

00:38 l'intelligence artificielle disent

00:40 si on prend une pause de six mois,

00:42 à quoi ressemblera le monde fin

00:44 2023? Il y a quelque chose là-dedans

00:46 d'un peu terrifiant, mais on peut

00:48 croire qu'on aurait besoin peut-être

00:50 de plus de six mois. Alors, je

00:52 résume ce qu'il y a dans la lettre.

00:54 Premièrement, on nous annonce un

00:56 socialisme socio-élémentaire de base

00:58 qui fait que nous cohabitons.

01:00 Deuxièmement, bouleversement

01:02 majeur, donc, qui implique qu'on

01:04 doit reprendre en main, politiquement,

01:06 démocratiquement, technologiquement,

01:08 intellectuellement, l'intelligence

01:10 artificielle. Est-ce qu'on est

01:12 prêt, cela dit, est-ce qu'on est

01:14 équipé, en ce moment, pour reprendre

01:16 en main le domaine de l'intelligence

01:18 artificielle? La réponse, c'est non.

01:20 C'est tellement non qu'ils osent dire,

01:22 les auteurs de cette lettre, qu'on

01:24 est dans un moment où la créature

01:26 échappe à son créateur. Donc, des

01:28 gens qui participent au monde de

01:30 l'intelligence artificielle disent,

01:32 on ne comprend pas exactement ce qui

01:34 se passe, on ne comprend pas exactement

01:36 ce que l'on crée, on ne comprend pas

01:38 exactement ce que l'on met au monde,

01:40 si vous me permettez cette image, et

01:42 nous pourrions, demain, être dominés

01:44 par ce que nous avons créé. Ils

01:46 ajoutent une autre chose. Nous

01:48 risquons de basculer dans un univers

01:50 où la propagande et les fausses images,

01:52 c'est pas la règle. Vous avez tous vu,

01:54 je crois, cette image du pape en

01:56 doudoune, ce qui est un peu étrange

01:58 quand même. Vous vous demandez,

02:00 ça avait l'air convaincant comme

02:02 image, mais c'était faux, tout

02:04 simplement. L'intelligence artificielle

02:06 permet de créer du faux qui passe

02:08 pour du vrai. Rappelez-vous, il y a

02:10 quelques semaines à peine, quelques

02:12 mois, lorsqu'on a recréé le discours

02:14 à l'appel du 18 juin du général de

02:16 Gaulle, sauf que ce discours qui a

02:18 existé n'a jamais été enregistré.

02:20 Il y a quelque chose là-dedans d'un

02:22 peu fou. Et les frontières du vrai

02:24 et du faux se mélangent de plus en

02:26 plus. Risques de propagande, donc,

02:28 on nous dit, avec cela. Risques

02:30 aussi, et ça c'est fondamental, de

02:32 transformer l'homme en créature

02:34 obsolète. L'obsolescence de l'homme.

02:36 Et on nous dit plusieurs métiers

02:38 particulièrement gratifiants pour

02:40 l'être humain. On pense à celui,

02:42 c'est dans leur milieu de scénariste,

02:44 d'écrivain, tout ça, pourraient être

02:46 demain, tout simplement, condamnés

02:48 à l'échec du modèle d'intelligence

02:50 artificielle, qui n'en sont qu'à leur

02:52 début, peuvent pondre en quelques

02:54 secondes un roman, peuvent pondre en

02:56 quelques secondes un film, un scénario,

02:58 peuvent pondre en quelques secondes,

03:00 répondre à des examens mathématiques

03:02 complexes, des examens juridiques

03:04 complexes. Alors là, on est dans une

03:06 situation assez difficile où l'homme

03:08 finalement devient une technologie

03:10 désuète. - Et pardonnez-moi, j'ai vu

03:12 plusieurs personnes le faire devant

03:14 moi, écrire une chronique. Ils

03:16 ont dit que c'était déjà remplacé.

03:18 - Mais je poursuis. - Non, mais c'est

03:20 intéressant, ce que vous dites. - Je poursuis

03:22 la suite, c'est assez intéressant. Une

03:24 intelligence supérieure qui nous dépasse,

03:26 disent-ils, qui nous alienne et qui

03:28 pourrait, pour utiliser un mot qui en

03:30 d'autres circonstances vaudrait

03:32 réprimande, pourrait nous remplacer.

03:34 L'intelligence artificielle pourrait

03:36 nous remplacer, disent-ils. Ensuite,

03:38 inquiétude supplémentaire, on touche

03:40 à la politique. Est-ce qu'il faut

03:42 vraiment que les oligarques de la

03:44 tech soient véritablement les nouveaux

03:46 dirigeants du monde aujourd'hui? Est-ce

03:48 que les dirigeants élus, est-ce que

03:50 les représentants démocratiques sont

03:52 condamnés devant cette espèce de nouvelle

03:54 aristocratie des puissances

03:56 technologiques qui nous dit que c'est nous

03:58 qui avons le vrai pouvoir de réorienter

04:00 notre destin de l'humanité? Alors, ils

04:02 nous disent, il faut savoir où nous

04:04 en sommes, on a besoin d'une pause de

04:06 six mois, de six mois, pour éviter que

04:08 ça s'emballe, pour être capable de

04:10 mettre à jour des réflexions éthiques,

04:12 autour de l'intelligence artificielle.

04:14 Question centrale, on dégageait

04:16 quelques-unes. La première, est-ce

04:18 qu'il est possible, est-ce qu'il est

04:20 possible de contenir un progrès comme

04:22 celui-là, à tout le moins une évolution

04:24 technologique de cette nature? Est-ce

04:26 qu'à l'échelle de l'histoire, quand une

04:28 évolution technologique est engagée, est-ce

04:30 qu'il est possible de la contenir? On

04:32 pourrait répondre oui quand on pense au

04:34 clonage, par exemple, c'est un exemple

04:36 parmi d'autres, mais comment être

04:38 capable de contenir une telle évolution

04:40 technologique? Et le chinois n'arrête pas.

04:42 Est-ce que dans cette guerre des

04:44 intelligences artificielles, on ne sera

04:46 pas déclassé par l'empire du milieu qui

04:48 ne nous veut pas que du bien? Et on y

04:50 revient, on arrive à ce moment

04:52 exceptionnel dans l'histoire humaine,

04:54 où ce que nous avons créé nous dépasse

04:56 potentiellement, où nous mettons en scène

04:58 une forme d'intelligence supérieure dont

05:00 on ne connaît pas encore les mécanismes.

05:02 On est finalement arrivé à ce moment de

05:04 boom technologique qui nous condamne à

05:06 l'obsolescence, et ça, on appelait ça,

05:08 la singularité, c'est-à-dire que...

05:10 - C'est un concept. Il y a quelques années,

05:12 si vous parliez de la singularité, on vous

05:14 prenait pour un gros débile. On disait,

05:16 ah oui, t'as peur qu'il y ait des robots

05:18 de domine, toi. Complotiste aussi,

05:20 débile d'extrême droite. Mélangez les

05:22 termes, comme ça, vous lancez, ça fait

05:24 une recette. Alors, quoi qu'il en soit,

05:26 aujourd'hui, qu'est-ce qu'on voit des

05:28 gens de qualité dire, la singularité,

05:30 c'est peut-être pas dans 15, 20, 30,

05:32 40, 50 ans, c'est peut-être dès maintenant.

05:34 Qu'est-ce qu'on entend par là, je le redis,

05:36 c'est qu'il y a un changement qualitatif

05:38 dans notre rapport à l'intelligence

05:40 artificielle, où finalement, l'être

05:42 humain serait dominé par cette

05:44 intelligence nouvelle qu'il a construite.

05:46 Ray Kurzweil, une grande figure dans

05:48 les milieux transhumanistes, j'y reviendrai,

05:50 avait annoncé il y a quelques années,

05:52 autour de 2045, la singularité va

05:54 arriver. Et la question était de savoir

05:56 dans ces milieux-là à quel moment ça va

05:58 arriver, mais 2045, finalement, il était

06:00 optimiste ou pessimiste, selon le point

06:02 de vue. Ce qui me frappe, cela dit,

06:04 parce que ça me frappe, à quel point

06:06 la science-fiction, dis-je, a anticipé

06:08 la plupart de ces mouvements, et vous

06:10 me permettrez de citer quelques films

06:12 hollywoodiens qui ont vu les effets

06:14 de ce basculement technologique et qui

06:16 en ont vu des effets politiques.

06:18 Possible. Terminator, on s'en souvient

06:20 tous, avec Schwarzenegger. Quel est

06:22 le récit derrière Terminator? C'est

06:24 que les systèmes de défense de nos

06:26 pays ont été pris en charge par

06:28 l'intelligence artificielle plus qualifiée

06:30 pour être capable d'identifier ce qu'est

06:32 le monde. En termes de cela, les systèmes

06:34 de défense des pays, sous le signe de

06:36 l'intelligence artificielle, identifiant

06:38 menace, cela, menace, cela, ça engendre

06:40 une forme de guerre nucléaire qui condamne

06:42 l'humanité à l'effondrement. Je ne dis pas

06:44 que ça va arriver demain. C'est une crainte

06:46 qui est inscrite dans la culture. La

06:48 Matrice, vous connaissez ce film?

06:50 - Matrix.

06:52 - Oui, The Matrix, comme on dit en France.

06:54 La Matrice, comme on dit au Québec. Alors,

06:56 ce film qui est assez intéressant, qui

06:58 montre que le corps humain devient

07:00 un environnement virtualisé qui ne se

07:02 passe plus dans la réalité.

07:04 I, Robot, comme on dirait aussi en France

07:06 probablement, où des robots domestiques

07:08 qu'on avait décidé d'adopter pour nous

07:10 aider jugent finalement, par le cerveau

07:12 central de la chose, qu'on n'est pas

07:14 assez mature et intelligent pour être

07:16 capable d'organiser nos vies de manière

07:18 rationnelle. Il faut une forme de coup

07:20 d'état pour nous remplacer dans nos

07:22 vies, notre vie collective et privée.

07:24 Et un film particulier, celui-là,

07:26 Her, je repense, oui, She, Her,

07:28 c'est un film avec Phoenix,

07:30 Joachim Phoenix, et là, c'est quoi?

07:32 C'est un type qui tombe amoureux

07:34 d'un programme d'intelligence

07:36 artificielle. Donc, ce programme

07:38 répond parfaitement aux moindres

07:40 nuances de son esprit, c'est l'algorithme

07:42 parfait, d'autant qu'il a la voix de

07:44 Scarlett Johansson dans le film,

07:46 ce n'est pas un détail. Et qu'est-ce

07:48 qui se passe? Il tombe amoureux de ça.

07:50 Donc, c'est l'aliénation totale entre

07:52 deux. Et donc, qu'est-ce qu'on voit

07:54 à travers ces films?

07:56 Donc, d'un film à l'autre,

07:58 qu'est-ce qu'on voit? On voit se

08:00 dessiner ce qui était passé pour des

08:02 craintes dans l'immodéré de l'esprit

08:04 humain et qui, aujourd'hui, se présente

08:06 à nous, à tout le moins selon ces

08:08 scientifiques, ces grands experts qui

08:10 nous disent qu'on est en train de créer

08:12 quelque chose qui nous dépasse et qui

08:14 pourrait nous écraser.

08:16 - J'ai bien envie de comprendre.

08:18 Expliquez-moi, qu'est-ce qui vous

08:20 inquiète, qu'est-ce qui est inquiétant?

08:22 - Parce que tout cela, ce sont des

08:24 choses qui sont en train de se

08:26 transformer. Aujourd'hui, j'entends,

08:28 cette année, dans 5 ans, dans 10 ans,

08:30 dans 15 ans, dans ce basculement où,

08:32 j'y reviens, l'être humain devient

08:34 une technologie obsolète, une

08:36 technologie qui ne convient plus

08:38 selon notre propre conception d'un

08:40 être humain, une forme de cyborg

08:42 qui pourrait se transformer grâce

08:44 à l'intelligence artificielle,

08:46 notamment. C'est une révolution

08:48 anthropologique qui nous désincarne,

08:50 qui ronde le rapport au corps, qui

08:52 nous dit combien une existence

08:54 écranisée, strictement virtuelle, ne

08:56 sort plus de chez eux, ne sont plus

08:58 capables de prendre contact avec

09:00 des gens, d'avoir des contacts

09:02 humains réels de corps à corps,

09:04 d'esprit à esprit, on vit déjà un

09:06 peu dans ce monde-là. Donc, moi,

09:08 je redoute cet univers, finalement,

09:10 où on basculerait et l'être humain

09:12 deviendrait, finalement, complètement

09:14 désincarné. Une dernière réflexion

09:16 en un mot, ça crée les conditions

09:18 d'un environnement, pour l'instant,

09:20 où on est dans un monde qui est

09:22 complètement démoniaque, où on

09:24 est dans un monde qui est

09:26 complètement démoniaque, où on

09:28 est dans un monde qui est

09:30 complètement démoniaque, où on

09:32 est dans un monde qui est

09:34 complètement démoniaque, où on

09:36 est dans un monde qui est

09:38 complètement démoniaque, où on

L'édito de Mathieu Bock-Côté : «Intelligence artificielle : l'alerte d'Elon Musk»

Catégorie

Transcription

Recommandations