Sommet sur les risques de l'IA: "On est dans un engouement à mi-chemin entre la béatitude et la sidération"

Organisé dans le nord de Londres, ce sommet réunit des dirigeants politiques, des géants de la "tech" et des experts pour discuter des dangers liés à la croissance rapide de cette technologie.

Les IA génératives, capables de produire du texte, des sons ou des images sur simple requête en une poignée de secondes, ont fait des progrès exponentiels ces dernières années et les prochaines générations de ces modèles feront leur apparition d'ici l'été.

Ce développement fulgurant suscite espoirs, convoitises, mais aussi craintes. Celles-ci seront au coeur de la réunion de deux jours au manoir de Bletchley Park, l'emblématique centre de décryptage des codes de la Seconde Guerre mondiale. Initié par le Premier ministre britannique Rishi Sunak, le sommet a pour objectif d'évaluer les risques posés par l'IA, notamment dans la mauvaise utilisation et la perte de contrôle.

On n'est pas encore - et de l'avis de beaucoup de spécialistes, on ne le sera peut-être jamais - au point où une IA puisse devenir autonome, prendre des décisions et prendre le pouvoir sur le monde

"L'urgence est plutôt dans l'utilisation et la généralisation de la décision automatisée, tels que les biais qui peuvent s'introduire dans les algorithmes", a estimé Ranya Stamboliyska, experte en cybersécurité et en diplomatie numérique, mercredi dans l'émission Tout un monde de la RTS.

Et d'ajouter: "On n'est pas encore - et de l'avis de beaucoup de spécialistes, on ne le sera peut-être jamais - au point où une IA puisse devenir autonome, prendre des décisions et prendre le pouvoir sur le monde."

"Ça prête à sourire"

A défaut de régulation ou de politique commune, le Royaume-Uni veut se poser en moteur d'une coopération internationale sur ce sujet qui bouleverse la planète. "Le Royaume-Uni est l'un des pays qui n'a fait aucun effort pour mettre en place un cadre législatif pour réguler intelligence artificielle... Ça prête donc à sourire d'entendre qu'il veuille amener une coordination mondiale sur le sujet", glisse-t-elle.

Dans une lettre ouverte publiée mardi, plusieurs des "pères fondateurs" de cette technologie comme Yoshua Bengio ou Geoffrey Hinton ont plaidé pour "l'élaboration et la ratification d'un traité international sur l'IA" afin de réduire les risques "potentiellement catastrophiques que les systèmes avancés font peser sur l'humanité".

Le gouvernement britannique espère aboutir, a minima, à une "première déclaration internationale sur la nature" des risques de l'IA. Il propose également de créer un groupe d'experts sur l'IA sur le modèle du GIEC pour le climat.

L'Union européenne et les Etats-Unis ont choisi la voie de la réglementation, Joe Biden annonçant lundi des règles et principes ambitionnant de "montrer la voie" à l'échelle internationale.

Manque d'anticipation

L'historien Yuval Noah Harari, invité de Tout un monde en mai dernier, déclarait: "On doit d'abord comprendre l'intelligence artificielle." Un avis partagé par Ranya Stamboliyska. "On est dans un engouement à mi-chemin entre la béatitude et la sidération. On nous explique que l'IA va changer la face du monde. Mais est-ce qu'on a vraiment essayé de faire des projections sur le comment?"

L'experte en cybersécurité regrette ce manque d'anticipation. "Les rares fois où les dirigeants s'intéressent un peu aux défis à venir, leur discours, comme celui de Rishi Sunak sur l'IA, est: 'on va tous mourir, mais je vais vous protéger'", déplore-t-elle.

Nous devons cesser de penser que les entreprises privées à but lucratif sont les seuls propriétaires possibles et légitimes des systèmes d'IA, qui transforment nos vies et nos méthodes de travail

Dans une lettre ouverte adressée à Rishi Sunak, une centaine d'organisations, experts et militants internationaux ont déploré que ce sommet se tienne à "huis clos", dominé par les géants de la tech et avec un accès limité pour la société civile.

"Nous devons cesser de penser que les entreprises privées à but lucratif sont les seuls propriétaires possibles et légitimes des systèmes d'IA, qui transforment nos vies et nos méthodes de travail", a défendu pour sa part Sasha Costanza-Chock, professeure associée au Berkman Klein Center de l'Université de Harvard, lors d'une conférence de presse.

Propos recueillis par Eric Guevara-Frey
Adaptation web: vajo avec afp