La UE busca conversaciones con EE.UU. sobre seguridad en IA mientras Anthropic planea el lanzamiento de Mythos

TLDR

• La UE quiere conversaciones más profundas con funcionarios de EE. UU. sobre modelos avanzados de IA con capacidades cibernéticas.
• Anthropic no ha concedido a la oficina de IA de la UE acceso previo a su modelo Mythos.
• Los funcionarios de EE. UU. están evaluando el acceso a modelos, la innovación, la seguridad cibernética y la competencia con China.
• Anthropic afirma que los modelos de clase Mythos necesitan sólidas salvaguardas cibernéticas antes de una distribución más amplia.
• Anthropic espera llevar los modelos de clase Mythos a los clientes en las próximas semanas.

La Unión Europea planea ampliar las conversaciones con la administración de EE. UU. sobre modelos avanzados de IA con capacidades cibernéticas. Los debates se centran en el acceso, las revisiones de seguridad y las normas para sistemas potentes como el modelo Mythos de Anthropic. Las conversaciones se producen mientras Anthropic se prepara para llevar los modelos de clase Mythos a los clientes en las próximas semanas.

La UE presiona para acceder a las revisiones de IA avanzada

Según CNBC, un funcionario de la Comisión Europea afirmó que el bloque quiere conversaciones más sólidas con funcionarios de EE. UU. sobre modelos de IA de frontera. Los debates abarcan sistemas que pueden respaldar tareas cibernéticas complejas y pruebas de seguridad. La UE no ha recibido acceso previo al modelo Mythos de Anthropic. Su oficina de IA tampoco ha revisado el modelo en el proceso de acceso actual.

Anthropic concedió acceso previo anticipado a empresas y organizaciones seleccionadas a través del Proyecto Glasswing. Sin embargo, el acceso gubernamental fuera de EE. UU. sigue siendo limitado, a excepción del Instituto de Seguridad de IA del Reino Unido. Una persona familiarizada con las conversaciones dijo que Anthropic indicó a los funcionarios de la UE que buscaran el permiso de EE. UU. Esa persona afirmó que la Casa Blanca no se opuso a la UE por sí sola.

La misma persona dijo que los funcionarios de EE. UU. tenían preocupaciones más amplias sobre compartir Mythos con gobiernos no estadounidenses. Las conversaciones ahora ubican el acceso al modelo dentro de un debate más amplio sobre seguridad de IA transatlántica.

EE. UU. sopesa la innovación y las preocupaciones de seguridad

La Casa Blanca ha trabajado con laboratorios de IA en el despliegue de modelos avanzados. Los funcionarios de EE. UU. quieren mantener el liderazgo del país mientras gestionan los riesgos de seguridad. El secretario del Tesoro, Scott Bessent, dijo que la administración trabaja "muy estrechamente" con los laboratorios de IA. También dijo que los funcionarios quieren equilibrar la innovación y la seguridad.

La administración se opuso a una expansión más amplia del acceso a Mythos, según informes anteriores. Anthropic había propuesto dar acceso al modelo a aproximadamente 70 empresas y organizaciones más.

Mythos atrajo la atención después de que Anthropic lo anunciara en abril. El modelo generó preocupación por su reportada capacidad de identificar vulnerabilidades de software a gran escala. El CEO de Anthropic, Dario Amodei, advirtió este mes sobre una ventana de seguridad estrecha. Dijo que las organizaciones tenían de seis a 12 meses para parchear muchas vulnerabilidades antes de que la IA china les diera alcance.

Anthropic planea un lanzamiento más amplio de modelos de clase Mythos

Anthropic declaró el jueves que los modelos con capacidad de nivel Mythos necesitan sólidas salvaguardas cibernéticas antes de una distribución amplia. La empresa también dijo que ha logrado un avance rápido en esas protecciones. "Estamos avanzando rápidamente en el desarrollo de estas salvaguardas", dijo Anthropic. La empresa espera llevar los modelos de clase Mythos a todos los clientes en las próximas semanas.

La Comisión Europea también ha ampliado las conversaciones técnicas con Anthropic y otros desarrolladores de modelos. Estas conversaciones involucran a empresas que notificaron sus últimos modelos a la oficina de IA de la UE. El portavoz de la Comisión, Thomas Regnier, dijo que la ciberseguridad sigue siendo una prioridad compartida. Afirmó que la UE y EE. UU. acordaron reconocer sus respectivos estándares en esta área.

Los debates ahora abarcan el acceso a modelos, las salvaguardas cibernéticas y los procedimientos de revisión. También se producen mientras los gobiernos examinan cómo los sistemas avanzados de IA manejan capacidades sensibles en materia de seguridad. El próximo lanzamiento de Anthropic pondrá a prueba cómo los laboratorios gestionan el acceso a modelos potentes. La UE continúa las conversaciones técnicas con Anthropic mientras busca acercarse más a los funcionarios de EE. UU.

The post EU Seeks U.S. Talks Over AI Safety as Anthropic Plans Mythos Rollout appeared first on Blockonomi.