Des conversations privées de certains utilisateurs américains ont été dévoilées sans qu'ils ne s'en rendent compte.
Retrouvez « La chronique de Manon Mariani » dans Zoom zoom zen sur France Inter et sur : https://www.radiofrance.fr/franceinter/podcasts/veille-sanitaire
00:00L'heure de notre détour quotidien du côté des réseaux sociaux, Manon aujourd'hui direction à un drôle d'endroit.
00:05Il est qualifié d'endroit le plus triste sur internet par les médias américains et c'est à un certain Mark Zuckerberg que l'on doit.
00:12Je vous présente Meta IA, je le dis en français, le chat GPT de Meta sorti en avril dernier aux Etats-Unis.
00:18En Europe, seule une version partielle est disponible pour le moment.
00:21Mais c'est donc à sa version américaine que je m'intéresse aujourd'hui.
00:23Elle se présente comme un agent conversationnel avec lequel on peut communiquer par message ou par vocale.
00:28Jusque-là, tout va bien.
00:30Sauf que Meta IA a une fonctionnalité en plus, un fil Discover.
00:34C'est exactement comme un fil Facebook ou Instagram où on peut voir des publications de personnes que l'on suit ou qu'on ne suit pas.
00:40Une fonctionnalité passée inaperçue chez beaucoup d'utilisateurs qui ne sont manifestement pas au courant que certaines de leurs demandes sur Meta IA peuvent être lues par tout le monde.
00:48Le site 404 Média a relevé des centaines de messages assez gênants et surtout très personnels de conversations entre des utilisateurs et l'intelligence artificielle.
00:58Alors comme quoi Manon ?
00:59Une personne qui demande à l'IA de lui écrire une lettre pour l'innocenté d'un meurtre.
01:03Une autre qui veut un produit pour soulager les irritations de son anus.
01:06Quelqu'un qui parle de sa nouvelle attirance pour les personnes trans.
01:09Bref, ce fil Discover, c'est la caverne d'Alibaba.
01:12D'autant plus que les publications ne sont pas anonymes.
01:15Il y a le nom de la personne concernée avec son compte Meta, ce qui permet d'avoir accès à son Instagram ou à son compte Facebook.
01:22Le problème, c'est que la plupart de ces personnes n'ont pas conscience que leurs conversations sont rendues publiques.
01:27Business Insider en a retrouvé certaines qui ont halluciné de voir leur message privé affiché à la vue de tous.
01:32C'est comme si votre historique Google apparaissait partout, voire pire, vos recherches sur des sites pornos.
01:37Bon, ce sont des restés personnels.
01:40La faute à Meta qui n'a pas bien précisé ce que leur option publiée voulait dire.
01:46Les gens pensaient sûrement que c'était un moyen d'enregistrer leurs conversations ou de les publier sur un fil personnel, mais pas du tout.
01:52Résultat, Meta a dû modifier rapidement sa fonctionnalité.
01:55Maintenant, quand les Américains cliquent sur Publier, il y a un message d'alerte qui s'affiche et qui précise
02:00« Vos messages sont publics et visibles de tous » et qui recommande évidemment d'éviter le partage d'informations personnelles ou sensibles.
02:07C'est toujours mieux que rien.
02:08Oui, clairement, mais ça arrive à un mauvais moment pour Meta.
02:11Car une enquête très récente montre que 90% des utilisateurs de ces applications se sentent de moins en moins en sécurité
02:17depuis l'assouplissement de la politique contre les discours haineux.
02:2166% disent aussi avoir été exposés à du contenu nuisible ces derniers temps.
02:26L'enquête dénonce notamment la montée des discours de haine et de la désinformation.
02:29Meta est accusé de sacrifier la sécurité de ses utilisateurs au profit de la liberté d'expression.
02:35Et ce qui se passe avec son IA en est l'exemple parfait.
02:38Business Insider va même plus loin et s'interroge sur l'utilité de cette fonction Discover.
02:42Est-ce que c'est vraiment utile de voir les pensées les plus intimes des gens ou leurs demandes les plus secrètes ?
02:47Alors, Meta le vent, comme un endroit où les utilisateurs peuvent explorer comment les autres utilisent l'intelligence artificielle.
02:54Pas sûr qu'on ait envie de se transformer en voyeuriste compulsif.
02:58Il y a déjà suffisamment de réseaux sociaux pour ça.
