Компания BlueFlag Security, специализирующаяся на безопасности разработки, объявила о расширении платформы для управления ИИ-агентами. Обновление охватывает как одобренные, так и теневые агенты, обеспечивая полный контроль над их доступом, поведением и надзором, а также предлагая автоматическое устранение рисков. Новые функции доступны в рамках платформы BlueFlag и позволяют управлять всеми аспектами ИИ-агентов и их связями с человеческими и машинными идентичностями, инструментами, конвейерами и производственными приложениями на протяжении всего жизненного цикла разработки ПО (SDLC).
Расширение последовало за публикацией отчёта BlueFlag «2026 State of Developer Identity Risk», который показал, насколько слабо некоторые крупные организации осведомлены о масштабных рисках в SDLC, невидимых для инструментов сканирования кода и платформ управления идентификацией.
ИИ-агенты становятся основной силой в разработке
ИИ вызвал тектонический сдвиг в разработке ПО. ИИ-агенты уже не просто помощники в написании кода: разработчики наделяют их полномочиями самостоятельно планировать работу, делегировать задачи другим агентам, подготавливать необходимые среды и получать доступ от имени разработчика и с его правами.
Согласно новым данным BlueFlag, 83% организаций используют агентов для написания кода, которых никто официально не одобрял, а 56% организаций имеют автономных агентов, действующих под собственной идентичностью. У ранних последователей ИИ уже пишет до 72% всех коммитов. Там, где агенты работают под идентичностью разработчика, большинство таких учётных записей обладают правами администратора и вообще не monitored. Более чем в каждой пятой организации автономный агент уже сливал код без участия человека.
«ИИ-агент теперь является самой мощной и наименее управляемой идентичностью в среде разработки. Такой уровень доверия в лучшем случае ошибочен, а в худшем — потенциально катастрофическая угроза для бизнеса. BlueFlag предлагает беспрецедентную возможность управлять агентами там, где они работают, наряду с людьми-разработчиками и нечеловеческими идентичностями в одной экосистеме, и связывать их поведение со всем окружением, чтобы путь атаки проявлялся в момент возникновения. Агенты вот-вот станут основными разработчиками ПО. Люди будут ставить цели, ограничения и определять, где требуется подпись человека. BlueFlag уже является уровнем управления для тех и других, а в начале следующего года начнёт прерывать путь атаки по мере его формирования, а не только сообщать о нём», — заявил Радж Маллемпати, генеральный директор BlueFlag Security.
Шесть новых возможностей для управления агентами
Расширение включает шесть новых и/или улучшенных функций, объединяющих идентификацию агентов, управление и устранение рисков. Независимо от того, человек, машина или ИИ, платформа BlueFlag определяет тип идентичности, сопоставляет права доступа с фактическим использованием, строит базовый профиль поведения и оповещает при его изменениях. Новые возможности включают:
- Обнаружение и классификация идентичностей — выявление агентов по их активности в коде (коммиты и пул-реквесты), классификация по действиям с кодом и используемой идентичности, отслеживание связи с разработчиками и репозиториями, пометка неутверждённых агентов. Для локальных инструментов на машинах разработчиков BlueFlag считывает данные из систем обнаружения и реагирования на конечных устройствах (EDR), таких как CrowdStrike и SentinelOne, без установки дополнительного ПО.
- Надзор за ИИ и проверка человеком — флаги для пул-реквестов, одобренных ИИ-агентом, коммитов, полностью написанных агентом, и запусков конвейеров без подписи человека. Организации могут требовать человеческого ревью перед слиянием или развёртыванием, а также документировать участие человека в решениях по каждому релизу.
- Инвентаризация ИИ в приложениях — учёт поставщиков моделей и фреймворков агентов, используемых в приложениях, с оценкой по Top 10 OWASP для агентных приложений.
- Измерение расходов на ИИ — привязка токенов и затрат каждого разработчика к коммитам и принятому коду, выявление роста расходов без новых коммитов, а также простаивающих оплаченных мест.
- AccessGuard — инструмент для устранения проблем с идентичностями, таких как избыточные права и устаревшие учётные данные.
- DriftGuard — исправление неправильно настроенных репозиториев и конвейеров, например отсутствующих защит веток, с возможностью применения вручную по инструкции или автоматически одним щелчком.
Кристи Пфози, глобальный директор по информационной безопасности Marelli, отметила: «Мы допускаем некоторую неизвестность, когда атака приходит извне. Но мы не должны допускать её в собственной среде разработки, и агентный ИИ сделал этот разрыв больше за одну ночь. В первую же неделю BlueFlag показала нам, какие ИИ-агенты работают в наших репозиториях, с какими разработчиками они взаимодействуют и где есть пробелы в их утверждении, ограничении и проверке. Это выводы, по которым можно действовать в тот же день, и ни один другой инструмент, который мы используем, не смог бы их выявить».
Контекст: риски ИИ-агентов и экономика разработки
Проблема усугубляется тем, что ИИ-агенты всё чаще получают доступ к критически важным системам. В отчёте BlueFlag подчёркивается, что там, где агенты работают под учётной записью разработчика, они наследуют все его права, включая административные, и зачастую остаются вне мониторинга. Более чем в 20% организаций автономный агент уже сливал код без участия человека.
Примером серьёзности угроз может служить инцидент с Binance, где хакеры использовали поддельное собеседование и вредоносное «задание по кодированию» для компрометации инженеров, а затем задействовали внутренний ИИ-инструмент для перемещения по сети. Хотя этот случай не связан напрямую с BlueFlag, он иллюстрирует, насколько опасными могут быть неконтролируемые ИИ-инструменты и доверие к ним.
В то же время экономика разработки с ИИ меняется: Revolut, перейдя на самохостинг моделей GLM, снизила затраты на инференс примерно на 90% и обнаружила, что при дешёвых токенах инженеры начинают использовать ИИ шире — для отладки и работы с тикетами Jira, что даёт дополнительную экономию времени. Это подтверждает тренд на более активное применение ИИ-агентов, что делает управление ими ещё более актуальным.
BlueFlag планирует в начале следующего года начать не только сообщать о путях атак, но и прерывать их по мере формирования. Пока же платформа предоставляет полную картину того, какие агенты работают, под чьими идентичностями и с какими правами, и позволяет автоматически устранять выявленные риски.
Источник: helpnetsecurity.com
Дополнительные источники: siliconangle.com, securityweek.com, theregister.com, github.com, shiftmag.dev, eternaaihealth.com, onlyusedtesla.ai, 1hp-troubleshooter.vercel.app