Citi, Ford и Experian делятся своими стратегиями масштабирования ИИ-агентов

«Чтобы доверять, нужно видеть, что происходит.» По словам Лоры Хайсман, директора по маркетингу Dynatrace, этот, казалось бы, простой принцип лежит в основе сегодняшнего внедрения ИИ в бизнесе.

«Это, пожалуй, главная тема разговоров во всех отраслях. Мы слышим это от наших клиентов каждый день», — сказала Хайсман на недавней панельной дискуссии на конференции Fortune Brainstorm Tech. «Главный вопрос: можно ли ему доверять? Он работает правильно? И если нет — можно ли его остановить?»

По мере того как компании рассматривают возможность позволить ИИ-агентам выстраивать цепочки задач, каждая из которых основана на результатах работы моделей ИИ, доверие становится важнее, чем когда-либо. И единственный способ выстроить это доверие, по мнению Хайсман и других руководителей на панели, — обеспечить прозрачность и контроль в системах. 

«Для нас прозрачность и отслеживаемость — не опция, а основа. Именно так мы подходим к каждому решению», — сказал Никхил Джоши, директор по информационным технологиям подразделения рынков Citi — финансового гиганта, ежедневно перемещающего триллионы долларов более чем в 100 странах.

Большую часть 2024 года Citi потратил на создание централизованной технологической основы для всех своих приложений и агентов, рассказал Джоши. Эта основа позволила компании значительно увереннее внедрять агентов в производственную среду. 

«В Citi существует только один способ развернуть агента — через этот центральный фреймворк», — сказал Джоши. «Это означает, что каждый агент регистрируется в рамках этого процесса, каждый агент отслеживается, каждый агент проходит аудит, каждый агент управляется». 

В то время как все остальные, кажется, мчатся вперёд на полной скорости в сфере ИИ, взвешенный и централизованный технологический подход Citi может показаться некоторым слишком консервативным. Однако, по словам Джоши, в долгосрочной перспективе это на самом деле помогает двигаться быстрее. «Быть консервативным в отношении ИИ — не плохое выражение», — сказал он.

Директор по инновациям Experian Кэтлин Питерс поддержала эту точку зрения и рассказала, как компания по кредитной отчётности создала систему управления различными развёртываемыми агентами, отслеживающую происхождение каждого агента, сотрудника, который его создал, и конкретные разрешения на доступ к данным или выполнение задач, которыми обладает каждый агент.

«Когда все участники экосистемы понимают эти элементы, вы выстраиваете доверие, которое позволяет масштабироваться и действовать быстро», — сказала Питерс.

В автомобильной отрасли, где среднее время вывода нового автомобиля от проектирования до производства может занимать годы, Ford использует ИИ для ускорения отдельных этапов процесса и применения принципа «быстрого провала», рассказал Сэмми Омари, исполнительный директор по системам помощи водителю и бортовым информационно-развлекательным системам Ford Motor Company. 

По словам Омари, ключевой момент — наличие правильных ограничительных барьеров.

В качестве примера Омари отметил, что сотрудники без инженерного образования, например дизайнеры, теперь могут вносить программный код для новых функций автомобиля, разработанных с помощью инструментов «вайбкодинга» на базе ИИ. Это сокращает время, необходимое для того, чтобы увидеть, как новая функция выглядит в тестовой версии автомобиля, и быстро отказаться от неё, если она не имеет перспектив. Если идея оказывается удачной, инженеры пишут код с нуля, и именно этот код попадает в автомобиль, поступающий к потребителям. Вайбкодинг дизайнера служит лишь первоначальным подтверждением концепции. 

«Таким образом, фактическая скорость выхода на рынок будет расти», — сказал Омари, — «но процесс контроля качества в конце, перед тем как мы фактически отправляем что-то клиенту, принципиально не изменился».

Эта статья была первоначально опубликована на Fortune.com