OpenAI aboga por un organismo mundial de gobernanza de la IA

OpenAI afirma que la IA necesita la misma regulación que la energía nuclear y quiere que EE.UU. impulse la creación de un regulador global para gestionarla. 

Según informó Cryptopolitan, esto ocurre mientras el presidente Trump viajó a Pekín para la primera visita de estado entre EE.UU. y China en nueve años, en la que se esperaba que la política de IA estuviera en la agenda.

Según Chris Lehane, vicepresidente de asuntos globales de OpenAI, que Trump y Xi estén en la misma sala es una oportunidad única para que ambas naciones construyan algo duradero en materia de IA.

"La IA, en cierta medida, trasciende muchos de los problemas comerciales predominantes o tradicionales. Existe una oportunidad para comenzar a construir algo a nivel global y que países de todo el mundo, incluida China, participen potencialmente", dijo Chris Lehane durante una reunión informativa.

¿Qué es OpenAI y por qué su opinión sobre la política global es tan relevante?

OpenAI es la empresa estadounidense que desarrolló ChatGPT, un popular asistente de IA/chatbot utilizado por cientos de millones de personas cada día.

La empresa siempre ha participado en todos los grandes debates sobre los sistemas de IA más avanzados. Su CEO, Sam Altman, se reúne habitualmente con jefes de estado para hablar sobre IA e incluso testifica ante el Congreso, lo que otorga a la empresa una influencia significativa en la política global de IA.

OpenAI también está inmersa en una disputa legal independiente tras la demanda presentada por el CEO de Tesla, Elon Musk, contra la empresa en 2024. Musk es uno de los fundadores originales de OpenAI y afirma que Sam Altman y otros directivos actuaron en contra de la misión sin ánimo de lucro de la empresa y la convirtieron en una organización con fines lucrativos. 

El juicio sigue en curso, pero la noticia más importante de esta semana está teniendo lugar en Pekín.

¿Qué propuso OpenAI y cuál es la comparación con el OIEA?

Chris Lehane, vicepresidente de asuntos globales de OpenAI, propuso vincular dos elementos para crear algo nuevo.

Quiere que el Centro para Estándares e Innovación en IA del Departamento de Comercio de EE.UU. y los institutos de seguridad de IA se unan para construir una red global. Utilizó el Organismo Internacional de Energía Atómica (OIEA) como ejemplo de cómo los países conectaron sus reguladores nucleares en un organismo único. 

El Centro para Estándares e Innovación en IA del Departamento de Comercio de EE.UU. es una oficina gubernamental que crea estándares técnicos para los sistemas de IA. 

Al mismo tiempo, los países están estableciendo institutos de IA en todo el mundo. Por ejemplo, el Reino Unido ya cuenta con uno, la UE está desarrollando marcos regulatorios y varios gobiernos asiáticos también están trabajando en organismos similares. 

Lehane afirmó que un organismo unificado para la IA ayudará a construir sistemas más seguros y resilientes, menos susceptibles a ataques. También quiere que el gobierno de EE.UU. haga obligatorio que los investigadores del país prueben los modelos de IA más potentes antes de implementarlos. 

¿Qué es el modelo Mythos y por qué inquieta tanto a Washington como a Pekín?

Mythos es un nuevo y potente modelo de IA que encontró "miles" de vulnerabilidades importantes en sistemas operativos y otros programas informáticos. Anthropic (la empresa de seguridad de IA respaldada por Google y Amazon) desarrolló Mythos.

La magnitud de lo que Mythos puede hacer conmocionó al mundo, ya que bancos y gobiernos se apresuraron a reforzar sus defensas de seguridad tras el anuncio. Incluso funcionarios de la Casa Blanca reconocieron que modelos como Mythos hacían más importante que nunca la comunicación con China. 

China quedó excluida del acceso anticipado a una vista previa de Mythos, lo que generó preocupación sobre la capacidad de los desarrolladores y el gobierno del país para defenderse de ataques que utilicen este modelo de IA. 

La firma de inteligencia de mercado IDC China advirtió incluso que excluir a China de Mythos podría crear una "brecha generacional" en las capacidades de defensa de IA entre China y Occidente. 

Según los investigadores, los atacantes podrían usar IA avanzada para diseñar armas biológicas, provocar crisis financieras o actuar de forma autónoma sin control humano. Lo más alarmante es que la IA solo necesita ser potente, rápida y estar orientada en la dirección equivocada para hacer todo esto. 

¿Qué ocurrió en la reunión Trump-Xi y de qué hablaron?

La delegación de EE.UU. a China incluyó al CEO de Nvidia, Jensen Huang, y al principal asesor de política tecnológica de la Casa Blanca, Michael Kratsios. Su presencia en el viaje convirtió la reunión en una prioridad y un asunto urgente, ya que ambas partes llegaron preparadas para tratar los temas de IA directamente. 

China propuso un diálogo formal sobre cuestiones de IA, liderado por el Secretario del Tesoro Scott Bessent y el viceministro de Finanzas chino Liao Min. Sin embargo, las expectativas para este canal son bajas, ya que ninguna de las dos agencias está especializada en IA.

EE.UU. también tenía previsto plantear su preocupación por el hecho de que los desarrolladores chinos estuvieran utilizando los resultados de modelos de IA avanzados para construir sistemas a una fracción del coste, pero con menos medidas de seguridad.

Ambas partes también discutieron la posibilidad de establecer una línea directa sin atribución de culpa para reportar incidentes presuntamente impulsados por IA, similar a las líneas directas militares.

Los analistas incluso sugirieron que ambos gobiernos podrían comprometerse a establecer salvaguardas para los modelos de IA de frontera, similares al Acuerdo de Ciberseguridad EE.UU.-China de 2015.

Finalmente, las conversaciones también podrían abordar la Ley MATCH, una propuesta legislativa de EE.UU. que pretende limitar el acceso de China a las cadenas de suministro de semiconductores. 

Sun Chenghao, de la Universidad de Tsinghua, participó en las conversaciones de IA entre EE.UU. y China y afirmó que EE.UU. debería trazar una línea clara entre la gestión de los riesgos de seguridad de la IA y el simple intento de bloquear el desarrollo tecnológico de China. 

"China probablemente espera que EE.UU. distinga adecuadamente entre la gobernanza de la IA y la contención tecnológica", dijo Sun Chenghao. 

Si estás leyendo esto, ya llevas ventaja. Mantenla con nuestro boletín.