Todo el mundo navega la seguridad de IA en tiempo real — incluso Google

BitcoinWorld

Todo el mundo navega la seguridad de la IA en tiempo real — incluso Google

En una conversación sincera entre bastidores en un evento en Los Ángeles, Francis de Souza, COO de Google Cloud, ofreció una evaluación sobria del estado actual de la seguridad de la IA. Hablando con el tono pausado de un profesor universitario, de Souza reconoció que la industria se encuentra en un período de transición, señalando que "habrá un período de transición, y luego creo que llegamos a ese lugar mejor." Sus comentarios llegan en un momento en que incluso Google mismo está lidiando con las brechas de seguridad expuestas por sus propios productos de IA.

El enfoque de plataforma hacia la Seguridad

El mensaje central de de Souza fue uno que los profesionales de seguridad han estado instando a los ejecutivos a adoptar durante años, ahora urgido por la IA: la seguridad no puede ser una ocurrencia tardía. "A medida que las empresas se embarcan en este viaje de IA, necesitan adoptar un enfoque de plataforma", dijo. "La seguridad no es algo que puedas añadir después, y no es algo que puedas dejar en manos de los empleados para que lo hagan por su cuenta." Advirtió específicamente sobre la "IA en la sombra" — empleados que usan herramientas de IA de consumo sin supervisión organizacional — y argumentó que las empresas deben exigir seguridad, gobernanza y auditabilidad de sus plataformas desde el principio. "No existe una estrategia de IA sin una estrategia de datos y una estrategia de seguridad. Tienen que ir de la mano", añadió.

La realidad multicloud y la superficie de ataque en expansión

Cuando se le preguntó si su consejo equivalía a un discurso de ventas para Google Cloud, de Souza lo rebatió, enfatizando el compromiso de Google con un enfoque multicloud. "Incluso si eligen una sola nube, dependen de aplicaciones SaaS, hay socios comerciales que pueden estar usando diferentes nubes", dijo. "Es importante que las empresas tengan una postura de seguridad que sea consistente en todas las nubes, en todos los modelos." También destacó cuánto ha cambiado fundamentalmente el panorama de amenazas. El tiempo promedio entre una brecha inicial y la transferencia a la siguiente etapa de un ataque ha caído de ocho horas a 22 segundos, señaló, mientras que la superficie de ataque se ha expandido más allá del perímetro de red tradicional. "Además de tu infraestructura habitual, ahora tienes modelos. Tienes pipelines de datos utilizados para entrenar los modelos. Tienes agentes, tienes prompts. Todo esto necesita ser protegido."

El peligro oculto de los Agentes de IA

Una amenaza que de Souza señaló y que a menudo pasa desapercibida: los Agentes de IA que se mueven por los sistemas internos de una empresa pueden descubrir repositorios de datos olvidados. "Muchas organizaciones tienen servidores SharePoint antiguos [y controles de acceso] que no han actualizado realmente, pero no importaba porque nadie sabía realmente dónde estaban. Pero los agentes que recorren tu empresa encontrarán esos activos de datos y expondrán los datos que contienen." Su solución recomendada es enfrentar la velocidad de la máquina con velocidad de máquina. "Ahora estamos viendo el surgimiento de una defensa nativa de IA, totalmente agéntica, donde las organizaciones pueden ejecutar agentes que impulsen su defensa", dijo. "En lugar de tener una defensa liderada por humanos o incluso un humano en el bucle, ahora puedes tener humanos supervisando una defensa totalmente agéntica." Subrayó que esto es un asunto de nivel de junta directiva y equipo ejecutivo, no solo una preocupación del equipo de seguridad.

Las propias brechas de seguridad de Google

Si bien el consejo de de Souza es sólido, informes recientes revelan una brecha entre lo que Google Cloud prescribe y la rapidez con que se adapta. The Register ha documentado una oleada de desarrolladores de Google Cloud golpeados con facturas de cinco cifras tras llamadas no autorizadas a la API de modelos Gemini — servicios que muchos nunca habían usado ni habilitado intencionalmente. El patrón: las Claves API originalmente implementadas para Google Maps, colocadas públicamente según las propias instrucciones de Google, se habían convertido silenciosamente en capaces de acceder a Gemini después de que Google ampliara su alcance sin divulgar claramente el cambio. Rod Danan, CEO de la plataforma de preparación para entrevistas Prentus, reportó una factura de $10,138 en aproximadamente 30 minutos después de que los atacantes explotaron su Clave API comprometida. Isuru Fonseka, un desarrollador con sede en Sídney, se despertó con cargos de aproximadamente AUD $17,000 a pesar de creer que tenía un límite de gasto de $250 establecido. Google reembolsó a ambos después de que The Register publicó su informe inicial, pero le dijo a la publicación que no tiene planes de cambiar su política de actualización automática de nivel, priorizando la prevención de interrupciones del servicio sobre el cumplimiento de las preferencias de presupuesto declaradas por los usuarios.

La ventana de revocación de 23 minutos

Para complicar aún más las cosas, la firma de seguridad Aikido encontró que incluso los desarrolladores que detectan una clave comprometida y la eliminan de inmediato pueden no estar seguros. Los atacantes aparentemente pueden continuar usando esa clave hasta 23 minutos porque la revocación de Google se propaga gradualmente a través de su infraestructura. El investigador de Aikido, Joseph Leon, le dijo a The Register que durante esa ventana, las tasas de éxito son impredecibles — en algunos minutos más del 90% de las solicitudes aún se autenticaban — y los atacantes pueden usar ese tiempo para exfiltrar archivos y datos de conversaciones en caché de Gemini. Leon señaló que los propios formatos de credenciales más nuevos de Google no tienen el mismo problema: las credenciales de API de cuentas de servicio se revocan en aproximadamente cinco segundos, y el formato de clave con prefijo AQ más nuevo de Gemini tarda aproximadamente un minuto. "Ambos funcionan a escala de Google", escribió en el artículo relacionado de Aikido. "Ambos sugieren que esto es técnicamente solucionable para las Claves API de Google también." En resumen, la ventana de 23 minutos no es una limitación de ingeniería sino una cuestión de prioridades.

Conclusión

El consejo de de Souza — que la seguridad debe ser fundamental, no añadida posteriormente — es sólido y debe ser tomado en serio por cada organización que implemente IA. Sin embargo, los incidentes recientes en el propio Google Cloud destacan que incluso las plataformas que prescriben las mejores prácticas todavía se están adaptando. A medida que la industria avanza hacia defensas nativas de IA y seguridad agéntica, la brecha entre la prescripción y la práctica sigue siendo una preocupación crítica para juntas directivas, ejecutivos y equipos de seguridad por igual.

Preguntas frecuentes

P1: ¿Qué es la "IA en la sombra" y por qué es un riesgo de seguridad?
La IA en la sombra se refiere a empleados que usan herramientas de IA de consumo sin supervisión organizacional. Esto crea riesgos porque dichas herramientas pueden no tener seguridad, gobernanza o auditabilidad de nivel empresarial, exponiendo potencialmente datos sensibles.

P2: ¿Con qué rapidez pueden los atacantes explotar una Clave API comprometida en Google Cloud?
Según investigaciones recientes, incluso después de que se elimina una clave, los atacantes pueden continuar usándola hasta 23 minutos debido a la propagación gradual de la revocación. Los formatos de credenciales más nuevos de Google se revocan mucho más rápido, en segundos o un minuto.

P3: ¿Qué es una "defensa agéntica" en la seguridad de la IA?
Una defensa agéntica utiliza agentes impulsados por IA para detectar y responder automáticamente a las amenazas a velocidad de máquina, con humanos supervisando el proceso en lugar de estar directamente en el bucle. Este enfoque está diseñado para contrarrestar la velocidad de los ataques modernos potenciados por IA.

Esta publicación Everyone Is Navigating AI Security in Real Time — Even Google apareció por primera vez en BitcoinWorld.