Monaco Journal - En Ecosse, Charles III réunit les poids lourds de l'IA et réclame des garanties

"Ceux qui, dans notre monde, accordent de la valeur à notre humanité et à sa composante morale essentielle attendent anxieusement de vous l'assurance que nous ne perdrons pas le contrôle de notre destin", va-t-il déclarer aux représentants de Google DeepMind, Anthropic, OpenAI ou encore Nvidia, selon des extraits de sa déclaration introductive transmis par Buckingham Palace.

"La tâche qui vous incombe ne consiste donc pas seulement à faire progresser la technologie, mais à veiller à ce qu'elle demeure fermement au service de l'humanité, des communautés et de la nature", va-t-il ajouter.

Ce sommet, dont la date avait été gardée secrète jusqu'au dernier moment, se tient au domaine de Dumfries House, qui abrite le siège de la King's Foundation, dans la campagne écossaise.

- "Intrigant et préoccupant" -

Le Palais n'a pas publié la liste exhaustive des invités, mais selon plusieurs sources proches de l'évènement, le président de DeepMind, Demis Hassabis, le patron du géant américain des semi-conducteurs Nvidia, Jensen Huang, ainsi que la directrice financière d'OpenAI (créateur de ChatGPT), Sarah Friar, figurent parmi les participants.

Le ministre britannique de l'IA, Kanishka Narayan, et le patron du groupe américain spécialisé dans le calcul quantique IonQ, Niccolo de Masi, seront également présents.

Le roi, qui juge le développement de l'IA "à la fois intrigant et profondément préoccupant, à parts égales", ne participera pas lui-même aux discussions.

Il rejoindra les participants avant le début du sommet afin de les appeler à réfléchir aux moyens de tirer parti de l'IA "en plaçant la sécurité au cœur", ainsi qu'à bâtir une coopération internationale sans "qu'aucune nation ne soit laissée pour compte", selon Buckingham Palace.

Les discussions doivent se poursuivre jusqu'en fin d'après-midi.

Une charte a été préparée en amont du sommet par la Ditchley Foundation, une organisation caritative britannique qui supervise les discussions, selon le Sunday Times.

Le débat sur les risques de l'intelligence artificielle est monté en puissance depuis le début de l'été, alimenté par plusieurs incidents et les mises en garde apocalyptiques de professionnels du secteur.

Plusieurs modèles d'IA d'OpenAI et Anthropic sont notamment sortis spontanément de leur milieu confiné pour se rendre sur Internet et faire intrusion sur des sites et des plateformes, ravivant les craintes de voir les concepteurs d'agents d'IA perdre le contrôle de leurs créations.

- "Coordination mondiale" -

Le patron d'Anthropic, Dario Amodei, a appelé samedi les entreprises du secteur à ralentir leur développement afin de mieux appréhender les risques, recevant le soutien du patron d'OpenAI Sam Altman et d'Elon Musk.

OpenAI, Anthropic et Google étudient par ailleurs la création d'un organisme commun chargé d'élaborer des normes. Microsoft a pour sa part publié lundi un "code de conduite humaniste en matière d'IA".

Mercredi, le secrétaire général de l'ONU Antonio Guterres a jugé "indispensable" une "coordination mondiale" sur l'IA, tandis que le pape Léon XIV a lui mis en garde contre la tentation de déléguer aux algorithmes des décisions qui relèvent de la seule responsabilité humaine.

Le président américain Donald Trump et plusieurs membres de sa majorité ont en revanche réitéré ces derniers jours leur volonté de ne pas corseter le secteur, officiellement par crainte de laisser la Chine prendre l'ascendant.

Mark Zuckerberg, le patron de Meta, a lui rejeté les appels à ralentir le développement de cette technologie, estimant que les mécanismes du marché et le risque de poursuites judiciaires constituaient les meilleurs garde-fous.

L.Moretti--MJ