La face caché de Chat GPT

Regardez La face caché de Chat GPT  - Konbini sur Dailymotion

Transcript

00:00 Ce qui se cache derrière ChatGPT.

00:01 Depuis quelques mois, vous avez sûrement bien fait mumuse sur ChatGPT.

00:05 Mais oui, vous savez, c'est un outil très puissant qui utilise l'intelligence artificielle

00:09 pour générer des textes très réalistes selon vos indications.

00:11 En plus, c'est un grand succès pour la firme OpenAI qui l'a développé,

00:14 puisqu'elle a réussi à lever récemment 29 milliards de dollars.

00:17 Mais vous savez que la vraie innovation de ChatGPT,

00:19 ce n'est pas d'être capable de réécrire une pièce de Molière avec des punchlines de Jul

00:23 ou encore de faire votre dessert à votre place, non.

00:25 Non, non, la grande force de cette IA en réalité,

00:27 c'est que contrairement à ses prédécesseurs, elle n'est pas toxique.

00:30 En effet, ChatGPT n'écrira pas d'appel à la violence,

00:33 ne tiendra pas de propos racistes

00:35 ou encore ne fera pas de description d'actes illégaux.

00:38 Génial, non ?

00:38 Sauf que pour qu'une IA ne reproduise pas de schéma toxique,

00:42 il faut d'abord qu'elle apprenne ce qu'est un schéma toxique.

00:44 Logique.

00:45 Et pour ça, on a recours à des humains.

00:47 Une enquête du Time a révélé que OpenAI avait sous-traité cette tâche à l'entreprise Sama.

00:52 Pendant plusieurs mois, une soixantaine d'employés kényans

00:54 payés entre 1 et 2 dollars de l'heure

00:57 ont vu défiler des milliers de textes et d'images

00:59 contenant notamment des descriptions explicites

01:01 de viol, d'inceste, de meurtre ou encore de pédopornographie

01:04 pour ne pas que vous ayez à les voir.

01:06 Puisque ces données annotées ont ensuite nourri l'IA

01:08 pour que ChatGPT exclue tous ses contenus toxiques

01:11 de toutes les propositions possibles.

01:13 C'était de la torture, témoigne un employé

01:15 qui revoyait sans cesse ces images traumatisant dans sa tête

01:17 une fois rentré du travail.

01:18 Puis, l'entreprise Sama a annoncé avoir rompu le partenariat avec OpenAI

01:22 et cessé ce type d'activité.