Produits défectueux : IA et objets connectés avec Stéphanie Berland, Associée, DWF.
Catégorie
🗞
NewsTranscription
00:00Musique
00:00En début de cette émission, on va parler produits défectueux
00:14dans le domaine de l'intelligence artificielle et des objets connectés
00:17avec mon invité Stéphanie Berlan, associée chez DWF.
00:21Stéphanie Berlan, bonjour.
00:23Bonjour Arnaud Dumourier.
00:24Le cadre juridique des produits défectueux a évolué avec la directive de 2024.
00:30Pour commencer, pourquoi ce texte était-il nécessaire ?
00:35Écoutez Arnaud, la directive sur les produits défectueux précédente datait de 1985.
00:41Donc c'est une directive qui instaurait un principe de responsabilité sans faute pour les produits défectueux
00:47et bien évidemment compte tenu de sa date, elle ne prévoyait aucune disposition spécifique.
00:53en matière de logiciels, d'IA, de produits connectés.
00:58Elle visait à protéger les consommateurs contre les produits physiques dangereux
01:03et aujourd'hui, on voit bien que tous les produits autour de nous, de plus en plus,
01:08intègrent ces éléments logiciels, vont intégrer certainement de l'IA.
01:12On a plein d'objets connectés qui sortent sur le marché
01:15et donc finalement, ces objets peuvent connaître des bugs,
01:20peuvent connaître finalement des dysfonctionnements qui vont créer des dommages.
01:25Et dans ce cadre-là, il est apparu nécessaire d'adapter le droit et cette directive à ces nouveaux risques.
01:32Alors on va s'intéresser maintenant aux apports de cette directive.
01:36Quels sont les trois apports majeurs de cette directive ?
01:39Alors le premier grand apport, c'est évidemment d'élargir cette notion de produit
01:45pour intégrer dans cette notion de produit les logiciels, les systèmes d'IA
01:50et les services numériques de manière assez large
01:53pour faire en sorte que justement, ils soient couverts et dans le champ de cette directive
01:58et que tous les défauts associés puissent également être couverts par cette directive.
02:03On peut parler de problèmes de sécurité, voilà,
02:07puisqu'on est en droit d'attendre un certain nombre de sécurité aujourd'hui de tous ces produits.
02:12Et le deuxième grand apport, c'est finalement du coup d'étendre la responsabilité des acteurs
02:18aux nouveaux acteurs qui vont être finalement concernés par ces produits numériques.
02:23Donc ça va être le développeur du système logiciel,
02:27l'intégrateur d'une solution logicielle
02:29ou celui qui va fournir la mise à jour.
02:32Ces nouveaux acteurs doivent aussi rentrer dans le champ de cette responsabilité sans faute.
02:37Et puis le troisième grand volet, on le voit avec le côté numérique,
02:41la difficulté pour la victime, ça va être évidemment la preuve.
02:45Comment est-ce qu'on peut apporter la preuve d'un problème défectueux
02:49sur un produit qui intègre du numérique ?
02:52Et c'est là où la directive de 2024 va instaurer des présomptions de défauts,
02:57de lien de causalité entre une faute, un dommage.
03:02Eh bien, on va avoir finalement un lien de causalité automatique
03:05lorsque la faute, on va dire, revêt une dimension numérique.
03:09Et puis un autre apport et un autre élément important,
03:13c'est évidemment la communication d'éléments techniques
03:16qui va permettre à la victime de rapporter la preuve de ce défaut.
03:20Et ça, le juge se voit donner de nouveaux pouvoirs.
03:24Alors, vous l'avez dit, les logiciels et l'intelligence artificielle
03:27sont désormais pleinement couverts par cette directive sur les produits défectueux.
03:32Concrètement, qu'est-ce que ça change pour les développeurs et les éditeurs ?
03:37Alors là, c'est un changement radical puisque, comme je vous le disais,
03:40finalement, ces acteurs étaient écartés du système précédent.
03:44Donc aujourd'hui, lorsqu'on est éditeur de logiciels,
03:48lorsqu'on est producteur d'un système d'IA,
03:50on peut maintenant voir sa responsabilité engagée,
03:53même si finalement, on n'est pas le fabricant du produit physique
03:56qui va intégrer ces systèmes numériques.
03:59Et donc, ça va impliquer pour tous ces nouveaux acteurs qui arrivent
04:03de revoir leurs procédures de test,
04:06de revoir aussi leur documentation
04:07et puis de s'assurer d'être bien couverts
04:10contre les risques de cybersécurité.
04:13Et un dernier aspect mécaniquement juridique,
04:16ça va être aussi de revoir les conditions générales de vente
04:18et peut-être même leur police d'assurance.
04:21Alors, je voudrais revenir sur un autre point que vous avez signalé.
04:23La directive allège le fardeau de la preuve pour les victimes.
04:27En quoi est-ce un tournant dans les litiges techniques ou complexes ?
04:31C'est un tournant parce que finalement, on voit bien aujourd'hui
04:35qu'il peut y avoir des cas de plus en plus complexes
04:38qui arrivent lorsqu'il peut y avoir un produit défectueux
04:43et un dommage corrélatif.
04:45Dès lors que justement, le produit défectueux intègre un service numérique
04:50et finalement, aujourd'hui, vous pouvez avoir par exemple
04:55une IA médicale qui va se tromper,
04:58c'est effectivement très difficile pour la victime
05:00d'arriver à prouver exactement ce qui a dysfonctionné.
05:04Et c'est là où la directive autorise justement désormais au juge
05:09à demander des éléments techniques au producteur du système d'IA
05:13ou de l'élément logiciel.
05:15Et ça sera à lui, à ce moment-là, effectivement,
05:19de pouvoir fournir cette documentation pour se dédouaner.
05:23Puisque finalement, dans le dernier rapport de la directive
05:26dont je vous parlais, et c'est là où ça consiste effectivement
05:29dans une véritable révolution, c'est qu'il va y avoir
05:31une présomption de lien entre le défaut et le dommage.
05:36Si vous arrivez en tant que victime à pouvoir prouver
05:38que vous avez subi un dommage et de montrer que le dommage,
05:42vous considérez qu'il est causé par tel produit
05:44dont vous arrivez à démontrer le défaut,
05:47finalement, la directive va établir un principe de causalité
05:50qui va vous permettre d'être considéré comme victime.
05:54Et voilà, il y a différents cas de figure comme ça
05:56qui peuvent contribuer à rendre finalement les recours
05:59plus accessibles pour ces potentielles nouvelles victimes.
06:02Alors maintenant, on va s'intéresser à un autre aspect,
06:04les conséquences pour les entreprises.
06:07Quelles précautions doivent prendre les entreprises
06:10à partir de maintenant dans leurs contrats,
06:12dans leurs procédures de mise sur le marché
06:14ou leur mise à jour logicielle ?
06:17Alors c'est vrai qu'aujourd'hui, toutes les entreprises
06:19qui vont fournir des services numériques,
06:22qui vont être amenées à être intégrées à des produits,
06:25elles doivent dorénavant parfaitement documenter
06:28les étapes du développement de leurs produits
06:30et aussi du suivi des produits.
06:33Elles doivent également revoir leurs contrats
06:35pour bien mettre en œuvre des systèmes de garantie,
06:39notamment avec leurs sous-traitants,
06:41pour que les mécanismes de responsabilité
06:43soient clairement définis.
06:45Et puis de manière aussi, pour le service après-vente,
06:49on va dire, pour ce qui concerne les mises à jour,
06:51dès lors que vous pouvez avoir une responsabilité
06:53qui est engagée par la mise à jour de votre logiciel,
06:57il importe de véritablement aussi documenter ces mises à jour
07:00pour ne pas se voir reprocher un défaut après la vente.
07:03Alors, on va s'intéresser maintenant au champ d'application.
07:07Est-ce que cette directive, elle concerne uniquement les professionnels
07:10ou elle intéresse également les consommateurs ?
07:14Alors, c'est une directive qui va viser tous les utilisateurs,
07:16en fait, quel que soit leur statut consommateur ou professionnel.
07:20Et donc, c'est un point effectivement important
07:22puisque aujourd'hui, même une entreprise
07:24qui achète un logiciel qui s'avère défectueux
07:27va pouvoir bénéficier de ce régime de responsabilité sans faute
07:30et donc se retourner vers la personne qui lui a vendu ce produit plus facilement.
07:36Alors, on imagine aussi qu'il y a des conséquences pour les assureurs.
07:39Concrètement, est-ce que les assureurs vont devoir revoir leur modèle de couverture ?
07:44Et quels sont les nouveaux risques que cette directive met en lumière ?
07:49Alors, côté assurance, c'est certain que face à cette nouvelle directive,
07:53les assureurs vont devoir adapter leur contrat, leur clause contractuelle
07:57pour effectivement se couvrir contre ce nouveau risque numérique,
08:02se couvrir contre les problèmes de mise à jour logicielle
08:05ou en tout cas demander à leurs assurés d'avoir les clauses ad hoc dans leur contrat.
08:11Et effectivement, c'est tous ces nouveaux risques liés à l'univers cyber
08:15qui nécessitent de revoir aussi les polices.
08:18Alors, les produits mis sur le marché avant le 9 décembre 2026
08:22restent soumis à l'ancienne directive.
08:25Concrètement, que doivent faire les entreprises dans cette période de transition ?
08:30Alors là, vous allez avoir une période un peu plus compliquée à gérer
08:33effectivement pour les producteurs de produits qui intègrent ces systèmes numériques
08:38puisqu'il va falloir que leur documentation soit à jour
08:43pour que lorsque la directive va rentrer en vigueur le 9 décembre 2026,
08:47il n'y ait pas de doute sur les produits qui bénéficieront,
08:52enfin plutôt qui seront soumis à ce nouveau mécanisme de responsabilité,
08:56des produits qui seront encore sous l'empire de l'ancienne disposition.
09:00Et donc, ça va aussi nécessiter là de revoir les contrats
09:02pour mettre en œuvre des clauses très claires de vente, de maintenance et de garantie
09:07avec des périodes d'entrée en vigueur, avec une législation qui leur soit bien applicable.
09:12On va conclure là-dessus. Merci Stéphanie Berlan.
09:14Je rappelle que vous êtes associée au sein du cabinet DWF.
09:18Merci Arnaud.
09:19Tout de suite, l'émission continue.
09:20On va parler de décarbonation dans le domaine de la santé.