Intelligences artificielles : sans "garanties en béton", on court droit "au désastre" selon cet expert

Sudinfo.be

Les systèmes d'intelligence artificielle doivent présenter "des garanties en béton" pour éviter un "désastre", estime Stuart Russell, codirecteur de l'Association internationale pour une IA sûre et éthique (IASEAI).

Transcript

00:00Qu'est-ce que c'est qu'une obligation spécifique ?

00:04On n'accepte pas que c'est l'obligation de l'enfant de faire ces décisions pour lui-même.

00:11Par exemple, avec la pornographie, s'ils n'aiment pas la pornographie, ils n'ont pas besoin de la regarder.

00:15Les questions qui sont plus inquiétantes sont vraiment autour de l'utilisation de l'IA dans les armes.

00:23On a des systèmes d'armes où l'IA qui contrôle ces systèmes d'armes décide qui attaquer, quand attaquer, etc.

00:36Présumablement, il serait en train d'opérer avec des instructions assez générales,

00:41comme attaquer et détruire tout ce qui bouge dans cette région, par exemple.

00:49Mais il peut aussi être utilisé dans des manières plus dangereuses et dangereuses.

00:56Par exemple, tuer quelqu'un qui correspond à la description suivante.

01:03Cette description peut être par âge, par gendre, par groupe ethnique, par affiliation religieuse, ou même par un individu particulier.

01:13Il semble raisonnable, particulièrement en ce qui concerne l'extinction humaine,

01:17qui peut résulter de systèmes d'IA qui sont beaucoup plus intelligents que les humains,

01:22et donc beaucoup plus capables d'affecter le monde, que nous sommes,

01:27de demander des garanties de casse d'iron.

01:32Pas seulement, nous faisons un effort, ou nous avons confiance, nous savons ce que nous faisons.

01:38Les gouvernements doivent nécessiter des garanties de casse d'iron,

01:44en forme d'évidence statistique ou de preuve mathématique,

01:50qui peuvent être inspectées, qui peuvent être vérifiées prudemment.

01:56Et rien d'autre que ça, c'est juste demander le désastre.

02:09Nous n'avons pas de table ronde.

02:12Nous n'avons pas de table ronde, parce que nous avons...

02:14Non, non, c'est une conférence.

02:15Nous avons trop de gens.

02:16Le sommet a une table ronde.

02:18Il y avait, au dernier compte, environ 75 pays qui avaient développé ou qui utilisaient des armes pilotées.

02:27Et je pense que la plupart d'entre eux sont en train de penser à comment les convertir en armes totalement autonomes.

02:34De l'autre côté, il y a plus de 100 pays qui ont déjà déclaré leur opposition aux armes autonomes.

02:41Et je pense qu'il y a une bonne chance qu'il y ait la majorité nécessaire dans l'Assemblée générale des Nations Unies

02:50pour avoir une résolution appelant à une banque.

Catégorie

Transcription

Recommandations