Все осваивают безопасность ИИ в реальном времени — даже Google

BitcoinWorld

Все осваивают безопасность ИИ в режиме реального времени — даже Google

В откровенном разговоре за кулисами мероприятия в Лос-Анджелесе Фрэнсис де Суза, COO Google Cloud, дал трезвую оценку текущему состоянию безопасности ИИ. Говоря с взвешенной интонацией университетского профессора, де Суза признал, что отрасль переживает переходный период, отметив: «Будет переходный период, а затем, я думаю, мы придём к лучшему положению дел». Его слова прозвучали в то время, когда даже сам Google борется с уязвимостями в сфере безопасности, выявленными его собственными продуктами на базе ИИ.

Платформенный подход к безопасности

Главный посыл де Сузы — то, что специалисты по безопасности годами призывают руководителей принять, а теперь ИИ сделал это особенно актуальным: безопасность не может быть второстепенной задачей. «По мере того как компании отправляются в это путешествие с ИИ, им необходимо придерживаться платформенного подхода», — сказал он. «Безопасность — это не то, что можно добавить потом, и не то, что можно предоставить сотрудникам на их усмотрение». Он особо предупредил о «теневом ИИ» — использовании сотрудниками потребительских инструментов ИИ без контроля со стороны организации — и утверждал, что компании должны с самого начала требовать от своих платформ безопасности, управления и возможности аудита. «Не существует стратегии ИИ без стратегии данных и стратегии безопасности. Они должны идти рука об руку», — добавил он.

Реальность мультиоблака и расширяющаяся поверхность атак

Когда его спросили, не является ли его совет рекламным питчем для Google Cloud, де Суза возразил, подчеркнув приверженность Google мультиоблачному подходу. «Даже если они выбирают одно облако, они полагаются на SaaS-приложения, существуют деловые партнёры, которые могут использовать разные облака», — сказал он. «Для компаний важно иметь единообразную систему безопасности во всех облаках и для всех моделей». Он также подчеркнул, насколько кардинально изменился ландшафт угроз. Среднее время между первоначальным взломом и передачей управления следующему этапу атаки сократилось с восьми часов до 22 секунд, отметил он, тогда как поверхность атак вышла за пределы традиционного сетевого периметра. «Помимо вашей обычной инфраструктуры, теперь у вас есть модели. Есть конвейеры данных для их обучения. Есть агенты, есть промпты. Всё это нуждается в защите».

Скрытая опасность ИИ-агентов

Одна угроза, на которую обратил внимание де Суза и которая часто остаётся незамеченной: ИИ-агенты, перемещающиеся по внутренним системам компании, могут обнаружить забытые хранилища данных. «У многих организаций есть старые серверы SharePoint [и настройки контроля доступа], которые они не обновляли, но это не имело значения, потому что никто толком не знал, где они находятся. Однако агенты, бродящие по вашему предприятию, найдут эти данные и откроют к ним доступ». Его рекомендуемое решение — противопоставить машинной скорости машинную скорость. «Сейчас мы наблюдаем появление ИИ-нативной, полностью агентной защиты, при которой организации могут запускать агентов для управления своей обороной», — сказал он. «Вместо защиты под руководством человека или даже с участием человека в процессе, теперь можно иметь людей, которые осуществляют надзор за полностью агентной защитой». Он подчеркнул, что это вопрос уровня совета директоров и руководящей команды, а не только забота службы безопасности.

Собственные уязвимости в системе безопасности Google

Хотя советы де Сузы разумны, недавние сообщения выявляют разрыв между тем, что предписывает Google Cloud, и тем, насколько быстро он адаптируется. The Register задокументировал волну разработчиков Google Cloud, получивших счета на пятизначные суммы после несанкционированных вызовов API к моделям Gemini — сервисам, которыми многие никогда не пользовались и не подключали намеренно. Схема такова: API ключи, изначально развёрнутые для Google Maps и размещённые публично согласно инструкциям самого Google, незаметно получили возможность доступа к Gemini после того, как Google расширил их область применения, не раскрыв изменение должным образом. Род Данан, генеральный директор платформы для подготовки к собеседованиям Prentus, сообщил о счёте на 10 138$ примерно за 30 минут после того, как злоумышленники воспользовались его скомпрометированным API ключом. Исуру Фонсека, разработчик из Сиднея, обнаружил счёт примерно на 17 000 AUD, несмотря на то что был уверен в наличии лимита расходов в 250$. Google вернул деньги обоим после публикации первоначального материала в The Register, однако сообщил изданию, что не планирует менять политику автоматического повышения тарифного плана, отдавая приоритет предотвращению сбоев в обслуживании над соблюдением заявленных пользователями бюджетных предпочтений.

Окно отзыва в 23 минуты

Ситуацию ещё больше осложняет следующее: компания по безопасности Aikido обнаружила, что даже разработчики, вовремя заметившие скомпрометированный ключ и немедленно его удалившие, могут оказаться в опасности. Злоумышленники, по всей видимости, могут продолжать использовать этот ключ ещё до 23 минут, поскольку отзыв у Google постепенно распространяется по его инфраструктуре. Исследователь Aikido Джозеф Леон сообщил The Register, что в течение этого промежутка успешность запросов непредсказуема — в отдельные минуты более 90% запросов по-прежнему проходили аутентификацию — и злоумышленники могут использовать это время для извлечения файлов и кэшированных данных переписки из Gemini. Леон отметил, что более новые форматы учётных данных Google лишены этой проблемы: учётные данные API сервисных аккаунтов отзываются примерно за пять секунд, а новый формат ключей Gemini с префиксом AQ — примерно за минуту. «Оба работают в масштабах Google», — написал он в связанной статье Aikido. «Оба свидетельствуют о том, что это технически решаемо и для API ключей Google». Иными словами, окно в 23 минуты — это не инженерное ограничение, а вопрос приоритетов.

Заключение

Совет де Сузы — что безопасность должна быть фундаментальной, а не «прикрученной» позднее — разумен и заслуживает серьёзного отношения со стороны каждой организации, внедряющей ИИ. Однако недавние инциденты в самом Google Cloud подчёркивают, что даже платформы, предписывающие лучшие практики, сами ещё адаптируются. По мере того как отрасль движется к ИИ-нативной защите и агентной безопасности, разрыв между предписаниями и практикой остаётся критической проблемой для советов директоров, руководителей и команд безопасности.

Часто задаваемые вопросы

В1: Что такое «теневой ИИ» и почему он представляет угрозу безопасности?
Теневой ИИ — это использование сотрудниками потребительских инструментов ИИ без контроля со стороны организации. Это создаёт риски, поскольку такие инструменты могут не соответствовать корпоративным стандартам безопасности, управления или аудита, что потенциально ведёт к утечке конфиденциальных данных.

В2: Как быстро злоумышленники могут воспользоваться скомпрометированным API ключом в Google Cloud?
Согласно последним исследованиям, даже после удаления ключа злоумышленники могут продолжать использовать его до 23 минут из-за постепенного распространения отзыва. Более новые форматы учётных данных Google отзываются значительно быстрее — за секунды или около минуты.

В3: Что такое «агентная защита» в безопасности ИИ?
Агентная защита использует управляемые ИИ агенты для автоматического обнаружения угроз и реагирования на них с машинной скоростью, при этом люди осуществляют надзор за процессом, не участвуя в нём напрямую. Этот подход разработан для противодействия скорости современных атак на основе ИИ.

Эта публикация Все осваивают безопасность ИИ в режиме реального времени — даже Google впервые появилась на BitcoinWorld.