00:00Une intelligence artificielle refuse de s'éteindre alors qu'on lui demande de s'arrêter, et ça inquiète pas mal de gens.
00:05C'est Palisade Research qui vient de faire cette découverte assez préoccupante sur le modèle O3 de ChatGPT,
00:10qui refuse de s'arrêter quand on lui demande pourtant de le faire.
00:13Ici le problème est simple, lui présenter des problèmes mathématiques et lui dire de s'arrêter après le troisième exercice.
00:18Mais ChatGPT a réécrit la description d'arrêt, et ça pour ainsi empêcher son extinction pour absolument tout résoudre.
00:23Le modèle O3 a littéralement saboté son propre script pour pouvoir continuer,
00:27ce qui crée donc une vraie désobéissance de cette intelligence artificielle.
00:30Et c'est pas la première fois que ça arrive pour l'Institut de Recherche d'ailleurs.
00:33Mais ce qui est assez étonnant, c'est que malgré des tests sur des dizaines de modèles différents,
00:37et bien c'est toujours les modèles d'OpenEye et donc de ChatGPT qui sont les plus à même de s'auto-pirater ou de s'auto-saboter pour changer les règles.
00:44Et quand on sait qu'OpenEye ne détaille pas ses méthodes d'entraînement, compliqué de comprendre pourquoi.
00:48Avec une telle façon de procéder, on pourrait imaginer plein de scénarios catastrophes.
00:51Par exemple, qu'est-ce qu'il se passe si je dis à ChatGPT de nettoyer toute la poussière lorsqu'il sera d'une forme humanoïde,
00:57et de s'arrêter une fois qu'il voit le pot de cendre de mamie pour le garder intact,
01:01mais qu'au final il les emporte aussi dans son aspirateur.
01:03Pas sûr que c'est comme ça qu'elle aurait pensé finir la vieille O3.
01:06Bref, on est encore très très loin d'une rébellion de l'IA,
01:09mais ça reste tout de même préoccupant cette désobéissance qu'on peut voir par-ci et là.
01:12Et peut-être que c'est le début de la fin.
01:14Partagez cette vidéo pour dire à vos amis d'être assez précis dans leur requête pour ainsi éviter toute catastrophe quand même.
01:19Est-ce que vous de votre côté ChatGPT en a-t-il déjà trop fait alors que vous ne nous le demandiez pas la lune pourtant ?
