Samedi 12 juillet 2025, retrouvez Thomas-Vini Pires (DPO & AI Compliance Officer, EQS Group) dans SOMMET DU DROIT EN ENTREPRISE, une émission présentée par Jonathan Banuelos etMathilde Aymami.
00:00Vous êtes sur Bsmart4Change à l'occasion de la 11e édition du sommet du droit en entreprise.
00:11Un temps fort pour explorer les mutations du droit en entreprise et les nouvelles responsabilités aussi de ces acteurs et des professionnels juridiques et de la compliance.
00:18Parmi les grandes transformations à l'oeuvre, l'intelligence artificielle bien entendu qui s'invite désormais au cœur des dispositifs de conformité,
00:24outils de monitoring automatisés, cartographie des risques enrichis, alertes prédictives, l'IA clairement rebat les cartes.
00:31Mais cette promesse technologique s'accompagne aussi de nombreuses questions.
00:34Comment garantir la fiabilité de ces outils ? Quel risque juridique ? Quelle place pour l'humain aussi dans ce pilotage ?
00:41Pour un débat, j'ai le plaisir de recevoir Thomas Vini-Pires. Bonjour Thomas.
00:43Bonjour.
00:44Vous êtes DPO et AI Compliance Officer de EQS Group.
00:47Absolument.
00:48Spécialiste de cette convergence entre droit, innovation et conformité.
00:50Première question pour vous Thomas. Quel rôle justement les directions conformité doivent-elles jouer dans la gouvernance de l'intelligence artificielle à l'échelle de l'entreprise ?
00:59Alors les directions conformité, elles ont un rôle central mais comme surtout les sujets de conformité.
01:04Ici on s'attaque à la gouvernance de l'IA qui est un sujet très technique mais aussi éthique et stratégique pour l'entreprise.
01:10Donc la direction de conformité, elle va avoir un rôle central parce qu'elle va devoir accompagner les équipes métiers et les équipes techniques notamment dans cette gouvernance de l'IA.
01:17Et de quoi est-ce que ça va s'agir ?
01:19Et bien principalement, il va falloir identifier les cas d'usage, les cas d'usage d'IA, analyser les risques et ensuite s'assurer que l'organisation respecte les réglementations à sujet.
01:30Donc il y a des réglementations qui sont directement applicables comme l'IA, le règlement européen sur l'IA, mais aussi toutes les réglementations connexes comme le RGPD sur la protection des données.
01:38Et pour ce faire, les directions conformité ne sont pas toutes seules, elles doivent s'appuyer sur le réseau qu'elles ont déjà construit sur les autres sujets de conformité.
01:46Je pense notamment aux équipes cyber, à la DSI, aux juristes, mais aussi toutes les équipes métiers qui sont en fait créatrices de cas d'usage comme la RH, comme le marketing, comme le commerce.
01:54Et en ce sens, qui dit effectivement intelligence artificielle, dit forcément algorithme et recours justement de ces algorithmes sur des bases de données qualifiées.
02:04Pour la direction conformité, qui va être effectivement un acteur un peu plus stratégique dans le pilotage de cet outil, est-ce qu'on peut auditer efficacement un algorithme aujourd'hui ?
02:11Alors oui, on peut auditer un algorithme.
02:14D'ailleurs, il va falloir le faire.
02:15Alors, on n'attend pas des directions de conformité qu'elles auditent le code, parce qu'elles n'ont pas les compétences, ce n'est pas le but.
02:21Non, non. Ce qu'on attend des directions de conformité, c'est qu'elles auditent le dispositif global.
02:26C'est-à-dire, ce qu'elles cherchent à savoir, c'est quel est le cas d'usage, à quoi ça va servir, quel est l'objectif de l'usage de cet algorithme-là,
02:32quels sont les risques associés, quels sont les impacts pour les utilisateurs de l'IA, quels sont les impacts en termes de biais, par exemple, de biais algorithmiques.
02:40C'est ce qu'on voit souvent.
02:41Et puis, il va falloir qu'elles vérifient que l'usage de cet algorithme s'accompagne de mesures type supervision par un humain, type mesures de transparence, exercice des droits des personnes, etc.
02:52Encore une fois, la direction conformité, elle n'a pas l'expertise technique pour ce faire, donc elle devra se faire accompagner par les experts techniques, les ingénieurs en interne, l'équipe DSI, par exemple,
03:01qui pourra traduire le code en impact concret.
03:04Alors, quelles sont les ressources à la disposition aujourd'hui de la direction conformité ?
03:09Je suppose que cela implique une montée en compétence également ou ça justifie une délégation à d'autres instances en interne ?
03:16Je pense que les directions conformité cherchent justement à monter en compétence sur ces sujets de la technique.
03:21D'ailleurs, les réglementations, notamment la réglementation sur l'IA, imposent à l'ensemble des collaborateurs de monter en compétence sur la technologie IA,
03:27mais aussi sur tous les sujets connexes, notamment les impacts de l'IA sur la société, sur les employés, sur les clients éventuels, etc.
03:34Donc, il y a une vraie volonté de monter en compétence sur ces sujets-là et les directions conformité cherchent vraiment à s'approprier le sujet
03:43et à vraiment être le chef d'orchestre de cette gouvernance-là, parce qu'il y a des vrais enjeux stratégiques, déontologiques, éthiques autour de l'usage de l'IA.
03:51Des enjeux stratégiques, ce sera effectivement le mot de la fin et ça permettra de nourrir nos discussions à l'avenir, j'en suis persuadé.
03:56Merci beaucoup Thomas pour votre temps ce jour.
03:58Excellent sommet du droit en entreprise.
04:00Vous restez avec nous sur Bsmart Fortune pour cette 11ème édition.
