OpenAI plaide pour un organisme mondial de gouvernance de l'IA

OpenAI affirme que l'IA nécessite la même réglementation que l'énergie nucléaire et souhaite que les États-Unis initient la création d'un régulateur mondial pour la gérer. 

Comme le rapporte Cryptopolitan, cela intervient alors que le président Trump s'est rendu à Pékin pour la première visite d'État américano-chinoise en neuf ans, au cours de laquelle la politique en matière d'IA devait figurer à l'ordre du jour.

Selon Chris Lehane, vice-président des affaires mondiales chez OpenAI, la présence de Trump et Xi dans la même pièce est une rare opportunité pour les deux nations de construire quelque chose de durable pour l'IA.

« L'IA, à un certain niveau, transcende bon nombre des questions commerciales dominantes ou traditionnelles. Il y a une opportunité de vraiment commencer à construire quelque chose à l'échelle mondiale, et de faire participer potentiellement des pays du monde entier, y compris la Chine, » a déclaré Chris Lehane lors d'un briefing.

Qu'est-ce qu'OpenAI, et pourquoi son opinion sur la politique mondiale est-elle si importante ?

OpenAI est la société américaine qui a développé ChatGPT, un assistant IA/chatbot populaire utilisé par des centaines de millions de personnes chaque jour.

La société a toujours participé à tous les grands débats sur les systèmes d'IA puissants. Son PDG, Sam Altman, rencontre habituellement des chefs d'État pour discuter de l'IA et témoigne même devant le Congrès, ce qui confère à l'entreprise une influence considérable sur la politique mondiale en matière d'IA.

OpenAI est également engagée dans une bataille juridique distincte depuis qu'Elon Musk, PDG de Tesla, a poursuivi la société en justice en 2024. Musk est l'un des fondateurs originaux d'OpenAI, et il affirme que Sam Altman et d'autres dirigeants ont trahi la mission à but non lucratif de la société et en ont fait une organisation à but lucratif. 

Le procès est toujours en cours, mais l'événement majeur de cette semaine se déroule à Pékin.

Qu'a proposé OpenAI, et quelle est la comparaison avec l'AIEA ?

Le vice-président des affaires mondiales d'OpenAI, Chris Lehane, a proposé de relier deux éléments pour créer quelque chose de nouveau.

Il souhaite que le Centre pour les normes et l'innovation en matière d'IA du département du Commerce américain et les instituts de sécurité de l'IA se réunissent pour construire un réseau mondial. Il a utilisé l'Agence internationale de l'énergie atomique (AIEA) comme exemple de la façon dont les pays ont connecté leurs régulateurs nucléaires en un seul organisme global. 

Le Centre pour les normes et l'innovation en matière d'IA du département du Commerce américain est un bureau gouvernemental qui crée des normes techniques pour les systèmes d'IA. 

Parallèlement, des pays créent des instituts d'IA dans le monde entier. Par exemple, le Royaume-Uni en possède un, l'UE développe des cadres réglementaires, et plusieurs gouvernements asiatiques travaillent également sur des organismes similaires. 

Lehane a déclaré qu'un organisme unifié pour l'IA contribuera à construire des systèmes plus sûrs et plus résilients, moins susceptibles aux attaques. Il souhaite également que le gouvernement américain rende obligatoire pour les chercheurs du pays de tester les modèles d'IA les plus puissants avant de les déployer. 

Qu'est-ce que le modèle Mythos, et pourquoi inquiète-t-il à la fois Washington et Pékin ?

Mythos est un nouveau modèle d'IA puissant qui a découvert « des milliers » de vulnérabilités majeures dans les systèmes d'exploitation et d'autres logiciels. Anthropic (la société de sécurité IA soutenue par Google et Amazon) a développé Mythos.

L'ampleur de ce que Mythos peut faire a choqué le monde, les banques et les gouvernements se précipitant pour renforcer leurs défenses de sécurité après l'annonce. Des responsables de la Maison Blanche ont même reconnu que des modèles comme Mythos rendaient la communication avec la Chine plus importante que jamais. 

La Chine a été exclue de l'accès anticipé à un aperçu de Mythos, soulevant des inquiétudes quant à la capacité des développeurs et du gouvernement du pays à se défendre contre des attaques utilisant ce modèle d'IA. 

La société d'intelligence de marché IDC China a même averti que l'exclusion de la Chine de Mythos pourrait créer un « fossé générationnel » dans les capacités de défense en matière d'IA entre la Chine et l'Occident. 

Selon des chercheurs, des attaquants pourraient utiliser une IA avancée pour concevoir des armes biologiques, déclencher des chocs financiers ou agir de manière autonome sans contrôle humain. La partie la plus effrayante est que l'IA n'a besoin que d'être puissante, rapide et orientée dans la mauvaise direction pour accomplir tout cela. 

Que s'est-il passé lors de la rencontre Trump-Xi, et de quoi ont-ils discuté ?

La délégation américaine en Chine comprenait le PDG de Nvidia, Jensen Huang, et le principal conseiller en politique technologique de la Maison Blanche, Michael Kratsios. Leur présence lors du voyage a fait de la réunion une priorité et une question urgente, les deux parties s'étant préparées à discuter directement des questions d'IA. 

La Chine a proposé un dialogue formel sur les questions d'IA, dirigé par le secrétaire au Trésor Scott Bessent et le vice-ministre chinois des Finances Liao Min. Mais les attentes pour ce canal sont faibles car aucune des deux agences n'est spécialisée dans l'IA.

Les États-Unis prévoyaient également de soulever des inquiétudes concernant le fait que des développeurs chinois utilisaient les résultats de modèles d'IA avancés pour construire des systèmes à une fraction du coût, mais avec moins de garde-fous de sécurité.

Les deux parties ont également discuté de la possibilité d'établir une ligne directe sans attribution de faute pour signaler des incidents suspects piloté par l'IA, similaire aux lignes directes militaires.

Des analystes ont même suggéré que les deux gouvernements pourraient s'engager à mettre en place des garde-fous pour les modèles d'IA de pointe, similaires à l'Accord de cybersécurité USA-Chine de 2015.

Enfin, les discussions pourraient également porter sur le MATCH Act, une loi américaine proposée qui vise à limiter l'accès de la Chine aux chaînes d'approvisionnement en semi-conducteurs. 

Sun Chenghao de l'Université Tsinghua a participé aux discussions américano-chinoises sur l'IA et a déclaré que les États-Unis devraient tracer une ligne claire entre la gestion des risques liés à la sécurité de l'IA et la simple tentative de bloquer le développement technologique de la Chine. 

« La Chine espère probablement que les États-Unis feront la distinction appropriée entre la gouvernance de l'IA et le confinement technologique, » a déclaré Sun Chenghao. 

Si vous lisez ceci, vous avez déjà une longueur d'avance. Gardez-la grâce à notre newsletter.