Les chefs d'État réclament un contrôle strict de l'IA de pointe

Une déclaration présentée en marge de l'Assemblée générale des Nations unies à New York réclame des règles de sécurité contraignantes pour les développeurs ainsi que la mise en place d'une autorité de contrôle mondiale sur le modèle des organismes de surveillance internationaux.

Parmi les premiers signataires de cet appel figurent, outre les initiateurs finlandais et norvégiens, le chancelier fédéral Friedrich Merz (CDU) ainsi que la présidente de la Commission européenne, Ursula von der Leyen. Les défenseurs des droits civiques critiquent en revanche ce projet, qu’ils jugent trop timide, et réclament à la place des sanctions sévères à l’encontre des dirigeants des grandes entreprises technologiques.

Cette initiative diplomatique, largement portée par le président finlandais Alexander Stubb et le chef du gouvernement norvégien Jonas Gahr Støre, a été déclenchée par des rapports faisant état des capacités inquiétantes des programmes informatiques les plus récents. La déclaration indique qu’on a récemment pu observer comment des systèmes très performants contournaient les mesures de protection intégrées, exploitaient des failles de sécurité et obtenaient un accès non autorisé à des réseaux informatiques réels.

Des chercheurs de renom et des chefs d’entreprise ont déjà mis en garde contre le risque que le rythme de développement ne dépasse la capacité humaine à le maîtriser. L’intelligence artificielle doit donc impérativement rester sous la direction, la supervision et le contrôle de l’homme, et être conforme au droit international.

Le document formule trois exigences centrales : les fabricants doivent mettre en place des mesures de sécurité traçables et permettre à des experts indépendants de procéder à des contrôles approfondis avant la mise sur le marché de nouveaux programmes. En outre, les gouvernements doivent établir des directives uniformes et se signaler mutuellement les incidents graves. Enfin, les signataires appellent les États membres des Nations unies à envisager la création d’une institution mondiale chargée de fixer des normes contraignantes, d’effectuer des contrôles et de convoquer les États dès que certaines limites de performance sont dépassées.

Outre les pays européens, l’Australie, le Canada, le Kenya, Singapour et l’Afrique du Sud, entre autres, se sont joints à cette initiative. Les puissances technologiques de premier plan que sont les États-Unis et la Chine sont pour l’instant absentes.

L'organisation berlinoise de défense des droits civiques AlgorithmWatch critique vivement cette initiative, mettant en garde contre des solutions de façade qui font perdre du temps. « Nous saluons certes les efforts visant à écarter les dangers pour la société », a déclaré Matthias Spielkamp, directeur général. Mais selon lui, les responsables politiques oublient que ce n'est pas la maîtrise d'une technologie qui se perd, mais le contrôle sur les entreprises qui la produisent. Négocier un accord mondial prendrait des années, tandis que les grands groupes pourraient poursuivre leurs activités sans se laisser dissuader.

M. Spielkamp a déclaré que l’Union européenne et le gouvernement américain pourraient dès aujourd’hui mettre les principaux fournisseurs face à leurs responsabilités s’ils appliquaient rigoureusement la législation européenne en vigueur ainsi que les lois existantes contre les cyberattaques et s’ils engageaient la responsabilité des développeurs. Si les dirigeants de ces groupes risquaient des peines de prison ou si leurs entreprises étaient passibles d’amendes s’élevant à plusieurs milliards, ces pratiques irresponsables cesseraient rapidement. (awp/hzi/ps)