Les images générées par IA sont de plus en plus jaunes, et ça marque le début de la fin

LeHuffPost

il y a 4 jours

INTELLIGENCE ARTIFICIELLE - Pour reconnaître une image générée par IA, il suffirait de regarder si elle est jaune. Pour beaucoup d’internautes, la technique est infaillible depuis quelques mois, lorsqu’un déluge d’images jaunâtres semble s’être abattu en ligne. Memes en tous genres ou encore vidéos IA produites à la chaîne - même la photo de profil du PDG d’OpenAI Sam Altman a succombé à la teinte jaunâtre. Le problème est si répandu qu’il existe d’ailleurs des sites et des tutos pour « dé-jaunifier » les images générées par Sora ou ChatGPT.

Catégorie

🗞

News

Transcription

Afficher la transcription complète de la vidéo

00:00Pour reconnaître une image générée par IA, il suffit de regarder si elle est jaune.

00:04Pour beaucoup d'internautes, la technique est infallible depuis quelques mois.

00:08Et en regardant les images qu'ils utilisent en exemple, on comprend pourquoi.

00:12Même en tout genre, propagande américaine ou encore vidéo IA produite à la chaîne,

00:16même la photo de profil du PDG d'OpenAI, Sam Altman, a succombé à la teinte jaunâtre.

00:21Le problème est tellement répandu qu'il existe désormais des sites et des tutos

00:25pour déjaunifier les images générées par Sora ou ChatGPT.

00:29Si l'on en croit tous les tweets sur le sujet, cette sorte de filtre jaune serait le résultat de modèles IA

00:34qui se recopient entre eux et recrachent de pâles copies.

00:37Certains pensent même que tout a commencé avec la tendance des images style Ghibli qui cartonnaient en mars.

00:43Bon, en vrai c'est un peu plus compliqué que ça, mais dans le fond, ils n'ont pas tort.

00:59Alors oui, mauvais prompt, bug technique ou biais exagéré d'un modèle IA, il est difficile de connaître la cause exacte de ce jaunissement.

01:21Mais ce qu'on sait, c'est qu'il risque d'être amplifié par ce que l'on appelle la consanguinité de l'IA,

01:26ou l'effondrement des modèles IA.

01:28A model collapse can happen where you start training machine learning models on data created by other machine learning models.

01:35I've called this in my work a form of Habsburg AI.

01:39The Habsburgs, the very famous political dynasty in Europe that was also very famous for lots of inbreeding,

01:46creating these exaggerated, even grotesque features.

01:50Very quickly, just after a few generations of training a model on a substantial amount of AI-created data,

01:58the model can start to fall in on itself, it can start to generate really bizarre and weird output.

02:07Si un modèle consanguin s'effondre, il peut donc se mettre à halluciner,

02:11par exemple en délirant sur un certain sujet alors que vous ne lui avez rien demandé.

02:15Il peut aussi se mettre à générer des images loufoques, pas du tout naturelles, voire même particulièrement jaunes.

02:21La solution semble alors évidente.

02:23Il suffit juste de ne pas entraîner son IA avec des données dites synthétiques

02:26et de privilégier le contenu humain qui est plus divers.

02:29Mais ce n'est pas si simple que ça.

02:30La toute raison pour laquelle l'inbreeding AI est même un problème,

02:35c'est parce qu'on en fait, il y a un problème de la scarcité data.

02:38Il y a beaucoup de systèmes de AI qui existent déjà, comme ChatGPT ou Anthropics Cloth, et ainsi de suite,

02:45ils ont essentiellement été traînés sur tous les données humains producés qui existent aujourd'hui.

02:50Les gens ne peuvent pas produire assez de données à un peu plus rapide

02:54pour s'assurer le sang de ces modèles de l'AI.

02:58Et c'est pourquoi les entreprises se tournent vers l'AI qui produit des données

03:03comme solution à cette scarcité data.

03:05Vous pouvez avoir beaucoup plus de données synthétiques,

03:07beaucoup plus rapides, beaucoup plus rapides et beaucoup plus rapides.

03:10N'est-ce qu'il n'y a rien de complainant sur le copyright ou quelque chose comme ça.

03:14Mais le bidouillage des entreprises de la tech pour faire des économies

03:17va avoir, et a déjà, des conséquences dramatiques.

03:20Face à tout ça, le secteur de la tech est évidemment en quête de solutions,

03:38le but étant de trouver le bon équilibre entre données réelles et données synthétiques.

03:42OpenAI fait d'ailleurs son max pour consolider des partenariats

03:45avec des sources fiables de données humaines qui ne sont pas dispo publiquement en ligne,

03:49comme Shutterstock ou la société Tress.

03:51Mais la menace d'une bullia qui risque d'éclater continue de planer,

03:55et beaucoup sont dans le déni.

04:19Une chose est sûre, pendant que les tech bros se chamaillent,

04:37l'âge d'or de l'intelligence artificielle touche à sa fin,

04:40et il est déjà en train d'être remplacé par l'âge jauni.

04:43Sous-titrage Société Radio-Canada

04:47Sous-titrage Société Radio-Canada

Recommandations