L’Union européenne a fait part de son intention d’élargir l’accès à ses superordinateurs de calcul à haute performance (HPC) en permettant aux startups d’utiliser ces ressources pour former des modèles d’intelligence artificielle. Mais il y a un hic : Les startups qui souhaitent accéder aux ressources de calcul à haute performance de l’UE – qui comprennent actuellement des superordinateurs pré-exascales et pétascales – devront se conformer au programme de l’Union en matière de gouvernance de l’IA.
En mai dernier, l’UE a annoncé un plan visant à mettre en place un ensemble provisoire de règles ou de normes volontaires destinées à l’industrie développant et appliquant l’IA pendant que les réglementations officielles continuent d’être élaborées, précisant que l’initiative viserait à préparer les entreprises à la mise en œuvre de règles officielles en matière d’IA dans quelques années.
L’Union européenne prépare également une loi sur l’IA : Il s’agit d’un cadre fondé sur le risque pour réglementer les applications de l’IA, qui est encore en cours de négociation par les colégislateurs de l’UE, mais qui devrait être adopté dans un avenir proche. En outre, l’UE a entrepris de collaborer avec les États-Unis et d’autres partenaires internationaux à l’élaboration d’un code de conduite en matière d’IA afin de combler les lacunes législatives internationales, alors que les différents pays travaillent à l’élaboration de leurs propres régimes de gouvernance de l’IA.
Mais la stratégie de gouvernance de l’UE en matière d’IA comporte aussi quelques carottes, sous la forme d’un accès à des ordinateurs de haute performance pour les jeunes entreprises d’IA « responsables ».
Un porte-parole de la Commission a confirmé que le plan axé sur les start-ups vise à renforcer la politique existante qui permet déjà à l’industrie d’accéder aux superordinateurs (via un processus d’appels à propositions EuroHPC Access) – avec « une nouvelle initiative visant à faciliter et à soutenir l’accès à la capacité des superordinateurs européens pour les start-ups éthiques et responsables dans le domaine de l’IA ».
L’initiative d’accès au HPC pour les jeunes pousses de l’IA a été annoncée aujourd’hui par la présidente de l’UE, Ursula von der Leyen, lors de son discours annuel sur l’état de l’Union.
Mise en garde contre le risque d’extinction
Lors de son discours, la présidente de l’UE a également pris le temps de souligner les inquiétudes soulevées par certains secteurs de l’industrie technologique concernant le risque d’extinction de l’humanité que représente l’IA, en avertissant que la technologie « évolue plus rapidement que ce que même ses développeurs avaient prévu » : « Nous disposons d’une fenêtre d’opportunité de plus en plus étroite pour guider cette technologie de manière responsable ».
« L’IA va améliorer les soins de santé, stimuler la productivité et lutter contre le changement climatique. Mais nous ne devons pas non plus sous-estimer les menaces très réelles », a-t-elle suggéré. « Des centaines de développeurs, d’universitaires et d’experts de premier plan dans le domaine de l’IA ont récemment lancé un avertissement dans les termes suivants – et je cite : « L’atténuation du risque d’extinction par l’IA devrait être une priorité mondiale au même titre que d’autres risques à l’échelle de la société tels que les pandémies et les guerres nucléaires ».
Elle a ensuite encouragé les efforts de l’UE pour adopter une législation complète sur la gouvernance de l’IA et a lancé l’idée de créer un « organisme similaire » au GIEC pour soutenir les décideurs politiques au niveau mondial avec des recherches et des informations sur les dernières données scientifiques concernant les risques liés à l’IA – en supposant, probablement, les préoccupations existentielles susmentionnées.
Je pense que l’Europe, avec ses partenaires, devrait ouvrir la voie à un nouveau cadre mondial pour l’IA, reposant sur trois piliers : les garde-fous, la gouvernance et l’orientation de l’innovation », a-t-elle déclaré, affirmant que « notre loi sur l’IA est déjà un modèle » : « Notre loi sur l’IA est déjà un modèle pour le monde entier. Nous devons maintenant nous concentrer sur l’adoption des règles dès que possible et passer à la mise en œuvre. »
Développant la stratégie plus large de l’UE en matière de gouvernance de l’IA, elle a suggéré : « [N]ous devrions également unir nos forces avec nos partenaires pour garantir une approche globale de la compréhension de l’impact de l’IA dans nos sociétés. Pensez à la contribution inestimable du GIEC pour le climat, un groupe d’experts mondial qui fournit les dernières données scientifiques aux décideurs politiques.
« Je pense que nous avons besoin d’un organisme similaire pour l’IA – sur les risques et les avantages pour l’humanité. Avec des scientifiques, des entreprises technologiques et des experts indépendants autour de la table. Cela nous permettra d’élaborer une réponse rapide et coordonnée au niveau mondial, en nous appuyant sur le travail réalisé par le processus d’Hiroshima [du G7] et d’autres.
L’invocation par Mme Von der Leyen de risques existentiels (possibles) liés à l’IA est remarquable, étant donné que l’attention portée par l’UE à la sécurité de l’IA a – jusqu’à présent – été axée sur la manière de réduire les risques moins théoriques découlant de l’automatisation, tels que ceux liés à la sécurité physique, les problèmes de partialité, de discrimination et de désinformation, les questions de responsabilité, etc.
La startup française Conjecture, spécialisée dans la sécurité de l’IA, s’est félicitée de l’intervention de haut niveau sur les risques existentiels liés à l’IA.
« C’est formidable de voir Ursula von der Leyen, présidente de la Commission, reconnaître aujourd’hui que l’IA constitue un risque d’extinction, comme l’ont admis les PDG des entreprises qui développent les plus grands modèles d’IA », a déclaré Andrea Miotti, responsable de la stratégie et de la gouvernance de Conjecture.
« Avec de tels enjeux, l’objectif n’est pas d’opposer les zones géographiques les unes aux autres pour gagner en compétitivité ; il s’agit d’arrêter la prolifération et d’aplanir la courbe d’augmentation des capacités.
L’UE prône une IA « responsable
En ce qui concerne le troisième pilier – guider l’innovation – le discours de Mme von der Leyen a suivi le plan visant à étendre l’accès aux supercalculateurs HPC de l’Union aux start-ups d’IA pour la formation de modèles, affirmant que d’autres efforts de pilotage suivraient.
L’UE dispose actuellement de huit supercalculateurs répartis dans l’ensemble de l’Union, souvent dans des instituts de recherche, dont Lumi, un supercalculateur HPC pré-exascal situé en Finlande, MareNostrum 5, un supercalculateur pré-exascal hébergé en Espagne, et Leonardo, un troisième supercalculateur pré-exascal situé en Italie, avec deux supercalculateurs exascal (encore plus puissants) qui seront mis en service à l’avenir (Jupiter en Allemagne et Jules Verne en France).
« Grâce aux investissements réalisés ces dernières années, l’Europe est devenue un leader dans le domaine des superordinateurs, avec trois des cinq superordinateurs les plus puissants au monde », a-t-elle déclaré. « Nous devons tirer parti de cette situation. C’est pourquoi je peux annoncer aujourd’hui une nouvelle initiative visant à ouvrir nos ordinateurs à haute performance aux jeunes pousses de l’IA pour qu’elles puissent entraîner leurs modèles. Mais ce ne sera qu’une partie de notre travail pour guider l’innovation. Nous avons besoin d’un dialogue ouvert avec ceux qui développent et déploient l’IA. C’est ce qui se passe aux États-Unis, où sept grandes entreprises technologiques ont déjà accepté des règles volontaires en matière de sûreté, de sécurité et de confiance.
« C’est ce qui se passe ici, où nous travaillerons avec les entreprises d’IA pour qu’elles s’engagent volontairement à respecter les principes de la loi sur l’IA avant qu’elle n’entre en vigueur. Nous devrions maintenant rassembler tous ces travaux en vue d’établir des normes mondiales minimales pour une utilisation sûre et éthique de l’IA ».
Les instituts scientifiques, l’industrie et l’administration publique ont déjà accès aux superordinateurs EuroHPC par le biais du processus de politique d’accès aux appels susmentionné – qui exige qu’ils demandent et justifient leur besoin (et leur capacité à utiliser) « des allocations extrêmement importantes en termes de temps de calcul, de stockage de données et de ressources d’appui », d’après le porte-parole de la Commission.
Cependant, il a déclaré que cette politique d’accès à l’EuroHPC JU [joint undertaking] sera affinée dans le but d’avoir une voie d’accès dédiée et plus rapide pour les PME et les start-ups de l’IA.
« Le critère éthique utilisé pour les projets [de recherche] Horizon est déjà utilisé pour évaluer l’accès aux supercalculateurs de l’EPC. Dans la même veine, cela peut être un critère pour les appels à candidatures pour l’accès au HPC dans le cadre d’un programme d’IA », a ajouté le porte-parole.
Reprenant l’annonce de Mme von der Leyen dans un billet de blog sur LinkedIn, Thierry Breton, commissaire européen chargé du marché intérieur, a également écrit : « [N]ous allons lancer l’initiative de l’UE en faveur des jeunes pousses dans le domaine de l’IA, en tirant parti de l’un des principaux atouts de l’Europe : son infrastructure publique de calcul à haute performance : son infrastructure publique de calcul à haute performance. Nous identifierons les jeunes entreprises européennes les plus prometteuses dans le domaine de l’IA et leur donnerons accès à notre capacité de supercalcul. »
« L’accès à l’infrastructure de calcul intensif de l’Europe aidera les jeunes entreprises à réduire le temps de formation de leurs nouveaux modèles d’IA de plusieurs mois ou années à quelques jours ou semaines. Et cela les aidera à mener le développement et l’expansion de l’IA de manière responsable et en accord avec les valeurs européennes », a suggéré M. Breton, ajoutant que la nouvelle initiative viserait à s’appuyer sur les efforts plus larges de la Commission pour encourager l’innovation en matière d’IA – tels que le lancement en janvier des installations de test et d’expérimentation pour l’IA, et l’accent mis sur le développement des centres d’innovation numérique. Il a également souligné le développement de bacs à sable réglementaires dans le cadre de la future loi sur l’IA, ainsi que les efforts visant à stimuler la recherche sur l’IA via le partenariat européen sur l’IA, les données et la robotique et le programme de recherche HorizonEurope.
Il reste à voir dans quelle mesure l’initiative de l’UE visant à soutenir des startups sélectionnées avec du HPC pour l’entraînement de modèles d’IA pourrait constituer un avantage concurrentiel. Mais il s’agit d’un effort manifeste de la part de l’UE pour utiliser des ressources (en demande) afin d’encourager « le bon type d’innovation » (c’est-à-dire les technologies qui sont en accord avec les valeurs européennes).
Atelier de discussion sur la gouvernance de l’IA
Le billet de blog de M. Breton révèle que l’UE prévoit de renforcer un groupe de discussion existant sur l’IA afin d’encourager une gouvernance plus inclusive.
« Lors du développement de la gouvernance de l’IA, nous devons nous assurer de la participation de tous – non seulement des grandes entreprises technologiques, mais aussi des start-ups, des entreprises utilisant l’IA dans nos écosystèmes industriels, des consommateurs, des ONG, des experts universitaires et des décideurs politiques », a-t-il écrit. « C’est pourquoi je convoquerai en novembre l’assemblée de l’Alliance européenne pour l’IA, qui réunira toutes ces parties prenantes.
À la lumière de cette annonce, les efforts déployés récemment par le gouvernement britannique pour se présenter comme un leader mondial de la sécurité en matière d’IA – en organisant un sommet sur l’IA cet automne – semblent devoir s’accompagner d’une concurrence régionale.
On ne sait pas encore qui participera au sommet britannique, mais on s’est déjà inquiété du fait que le gouvernement britannique ne consulte pas aussi largement qu’il le prétend lorsque les ministres programment la conférence. L’initiative a également reçu le soutien rapide et enthousiaste des géants de l’IA – y compris un engagement d’accès précoce/prioritaire aux modèles « frontières » pour la recherche britannique sur la sécurité de l’IA de la part de Google DeepMind, OpenAI et Anthropic – peu de temps après une série de réunions entre les PDG des entreprises et le premier ministre britannique.
Il est donc possible de lire la phrase de M. Breton sur la « participation de tous » à la gouvernance de l’IA – « non seulement les grandes entreprises technologiques, mais aussi les start-ups, les entreprises utilisant l’IA dans nos écosystèmes industriels, les consommateurs, les ONG, les experts universitaires et les décideurs politiques » – comme une attaque contre l’approche du Royaume-Uni soutenue par les grandes entreprises technologiques. (Toutefois, Sam Altman, PDG d’OpenAI, a également rencontré Mme von der Leyen en juin lors de sa tournée européenne, ce qui peut expliquer l’attention soudaine qu’elle porte au risque d’extinction de l’IA).
L’Alliance européenne pour l’IA, quant à elle, a été lancée par la Commission en 2018, initialement sous la forme d’un forum de discussion en ligne, mais aussi en véhiculant une variété de réunions et d’ateliers en personne qui, selon l’UE, ont rassemblé des milliers de parties prenantes à ce jour, avec l’intention déclarée d’établir « un dialogue politique ouvert sur l’intelligence artificielle ». Elle a notamment dirigé les travaux du groupe d’experts de haut niveau sur l’IA, qui a contribué à façonner l’élaboration de la politique de la Commission lors de la rédaction de la loi sur l’IA.
« L’Alliance pour l’IA existe depuis 2019. Elle ne s’est pas réunie au cours des deux dernières années, et le commissaire Breton a donc jugé opportun de la convoquer à nouveau », nous a déclaré le porte-parole de la Commission. « L’Assemblée de novembre se tiendra à un moment important du processus d’adoption de la loi sur l’IA. L’accent sera mis sur la mise en œuvre de la loi et du pacte sur l’IA et sur nos efforts plus larges pour promouvoir l’excellence et la confiance dans l’IA.