OpenAI выступает за создание глобального органа по управлению ИИ

OpenAI заявляет, что ИИ требует такого же регулирования, как ядерная энергетика, и хочет, чтобы США инициировали создание глобального регулятора для его контроля. 

Как сообщает Cryptopolitan, это происходит на фоне визита президента Трампа в Пекин — первого государственного визита США в Китай за девять лет, в ходе которого политика в области ИИ ожидаемо была включена в повестку дня.

По словам Криса Лехейна, вице-президента по глобальным вопросам OpenAI, нахождение Трампа и Си в одной комнате — редкая возможность для двух стран создать нечто долгосрочное в сфере ИИ.

«ИИ в определённой мере выходит за рамки многих существующих или традиционных торговых вопросов. Есть реальная возможность начать строить что-то на глобальном уровне и привлечь к этому страны по всему миру, в том числе, потенциально, Китай», — заявил Крис Лехейн на брифинге.

Что такое OpenAI и почему её мнение о глобальной политике так важно?

OpenAI — американская компания, разработавшая ChatGPT, популярный ИИ-ассистент/чат-бот, которым ежедневно пользуются сотни миллионов людей.

Компания всегда принимала участие во всех ключевых дискуссиях о мощных системах ИИ. Её генеральный директор Сэм Альтман регулярно встречается с главами государств для обсуждения ИИ и даже выступает с показаниями перед Конгрессом, что даёт компании значительное влияние на глобальную политику в области ИИ.

OpenAI также ведёт отдельное судебное разбирательство после того, как генеральный директор Tesla Илон Маск подал на компанию в суд в 2024 году. Маск — один из первоначальных основателей OpenAI, и он утверждает, что Сэм Альтман и другие руководители отступили от некоммерческой миссии компании и превратили её в коммерческую организацию. 

Судебный процесс продолжается, однако главная история этой недели разворачивается в Пекине.

Что предложила OpenAI и в чём состоит сравнение с МАГАТЭ?

Вице-президент по глобальным вопросам OpenAI Крис Лехейн предложил объединить два элемента для создания чего-то принципиально нового.

Он хочет, чтобы Центр стандартов и инноваций в области ИИ Министерства торговли США и институты безопасности ИИ объединились и создали глобальную сеть. В качестве примера он привёл Международное агентство по атомной энергии (МАГАТЭ) как образец того, как страны объединили своих ядерных регуляторов в единый общий орган. 

Центр стандартов и инноваций в области ИИ Министерства торговли США — это правительственный офис, занимающийся разработкой технических стандартов для систем ИИ. 

В то же время по всему миру создаются институты ИИ. Например, в Великобритании уже существует подобная структура, ЕС разрабатывает соответствующие рамочные механизмы, а ряд азиатских правительств также работает над аналогичными организациями. 

Лехейн заявил, что единый орган по ИИ поможет создавать более безопасные и устойчивые системы, менее уязвимые к атакам. Он также хочет, чтобы правительство США обязало исследователей страны тестировать наиболее мощные модели ИИ перед их развёртыванием. 

Что такое модель Mythos и почему она вызывает тревогу как в Вашингтоне, так и в Пекине?

Mythos — новая мощная модель ИИ, обнаружившая «тысячи» серьёзных уязвимостей в операционных системах и другом программном обеспечении. Mythos разработана компанией Anthropic — компанией по безопасности ИИ, поддерживаемой Google и Amazon.

Масштаб возможностей Mythos потряс мир: после объявления банки и правительства бросились укреплять свои системы безопасности. Представители Белого дома даже признали, что такие модели, как Mythos, сделали коммуникацию с Китаем важнее, чем когда-либо прежде. 

Китай был лишён раннего доступа к предварительной версии Mythos, что вызвало опасения относительно способности разработчиков и правительства страны защититься от атак с использованием этой модели ИИ. 

Аналитическая компания IDC China даже предупредила, что исключение Китая из доступа к Mythos может создать «поколенческий разрыв» в возможностях ИИ-защиты между Китаем и Западом. 

По словам исследователей, злоумышленники могут использовать продвинутый ИИ для разработки биологического оружия, провоцирования финансовых потрясений или автономных действий без контроля со стороны человека. Самое пугающее заключается в том, что ИИ достаточно лишь быть мощным, быстрым и направленным в неверную сторону, чтобы совершить всё это. 

Что произошло на встрече Трампа и Си и что они обсуждали?

В состав американской делегации в Китай вошли генеральный директор Nvidia Дженсен Хуанг и главный советник Белого дома по технологической политике Майкл Крацьос. Их присутствие в поездке придало встрече приоритетный и неотложный характер, поскольку обе стороны были готовы напрямую обсуждать вопросы ИИ. 

Китай предложил официальный диалог по вопросам ИИ под руководством министра финансов США Скотта Бессента и заместителя министра финансов Китая Ляо Миня. Однако ожидания от этого канала невысоки, поскольку ни одно из этих ведомств не специализируется на ИИ.

США также планировали поднять вопрос о том, что китайские разработчики используют результаты работы продвинутых моделей ИИ для создания систем за долю стоимости, но с меньшим количеством защитных ограничений.

Обе стороны также обсудили возможность создания горячей линии без взаимных обвинений для сообщения о предполагаемых инцидентах, управляемых ИИ, по аналогии с военными горячими линиями.

Аналитики даже предложили, что оба правительства могут взять на себя обязательства по введению ограничений для передовых моделей ИИ, аналогично Соглашению США и Китая по кибербезопасности 2015 года.

Наконец, в ходе переговоров может быть затронут и Закон MATCH — предлагаемый законопроект США, направленный на ограничение доступа Китая к цепочкам поставок полупроводников. 

Сунь Чэнхао из Университета Цинхуа принял участие в американо-китайских переговорах по ИИ и заявил, что США должны провести чёткую границу между управлением рисками безопасности ИИ и простыми попытками заблокировать технологическое развитие Китая. 

«Китай, вероятно, надеется, что США будут должным образом разграничивать управление ИИ и технологическое сдерживание», — сказал Сунь Чэнхао. 

Если вы читаете это, вы уже на шаг впереди. Оставайтесь там вместе с нашей рассылкой.