IBM встроила надзор за ИИ-агентами в среду разработки и связала контроль с метриками рантайма

Что объявила IBM

IBM опубликовала 14 октября 2026 года обзор нового релиза watsonx.governance — продукта для управления ИИ-активами. Формулировка самой IBM: предыдущий релиз, вышедший летом этого года, переводил организации «от управления ИИ к его гарантии» за счёт видимости, контроля и подотчётности, а текущий выпуск расширяет все три направления.

Список изменений выглядит как набор стыковок: новые источники и типы обнаруживаемых активов, надзор внутри среды разработки, синхронизация контроля с рантаймом агентов, приём метрик из платформ наблюдаемости, оценка рисков OWASP Top 10 по коду и ИИ-помощь в оценке доказательств соответствия.

Публикацию подписали пять человек, включая вице-президента по продукту и разработке watsonx.governance Мэриам Ашури.

Видимость: новые источники и новые типы активов

Обнаружение ИИ-активов появилось в предыдущем релизе: система находила агентов и связанные с ними инструменты, базовые модели, серверы Model Context Protocol и агентов-коллаборантов в AWS Bedrock, Azure AI Foundry и IBM watsonx Orchestrate.

Теперь список источников дополняется агентной платформой Google Cloud Gemini, а список типов активов — базой знаний агента. Кроме того, для обнаруженных активов вводится автоматическая обработка на основе правил: первыми её получили watsonx Orchestrate и IBM Bob.

Смысл изменений IBM описывает прикладным образом: расширить и источники, и типы активов, которые видит система, и снизить ручную работу при постановке найденного агента на учёт — чтобы неуправляемые агенты попадали в процессы управления быстрее.

Надзор внутри среды разработки: IBM Bob

Отдельный сюжет релиза — попытка убрать управление из отдельной задачи. Интеграция с IBM Bob встраивает контроль в момент написания кода: когда разработчик сохраняет файл, связанный с агентом, или завершает ход в Bob, watsonx.governance сканирует код в фоне.

Сканирование распознаёт новых агентов и изменения в существующих, собирает метаданные — имя агента, используемые инструменты и серверы MCP — и генерирует описание агента. На этой основе система определяет потенциальные категории риска и проверяет, соответствует ли агент критериям организации по использованию ИИ.

Результаты видны и разработчику прямо в IBM Bob, и команде управления в watsonx.governance: первая сторона узнаёт о возможной проблеме раньше, вторая получает структурированные метаданные и находки по рискам.

Замкнуть контур: контроль в рантайме и метрики

Вторая половина задачи — исполнение. Программы управления определяют не только риски, но и контроли: пороги, ограничения и требования, в которых агент должен работать. Они описываются в watsonx.governance, однако, как признаёт IBM, узкое место — замкнуть контур от документа к рантайму и получить метрики как доказательство того, что контроль применялся.

Интеграция синхронизирует контроли, заданные в watsonx.governance, с теми, что применяются во время работы агентов в watsonx Orchestrate, автоматически собирает метрики оценок и сопоставляет их с контролями. Если метрики выходят за выставленные пороги, система может автоматически запускать процессы управления.

Для менеджеров по рискам IBM описывает это как переход от задокументированных ожиданий к проверяемому исполнению: применение контроля подтверждается на уровне рантайма и связывается с записью об использовании ИИ в инвентаре управления.

Наблюдаемость, OWASP и доказательства соответствия

Оценку поведения агентов — достоверность, токсичность, релевантность, качество ответов — обычно измеряют в платформах наблюдаемости, и результаты остаются там же. Две новые интеграции, Langfuse и Arize AX, переносят эти метрики прямо в watsonx.governance: система сама забирает их по ходу работы агентов и связывает с заданными контролями, без собственных выгрузок и повторения схемы для каждого развёртывания.

Для агентных приложений IBM добавила оценку рисков из списка OWASP Top 10. Система использует статический анализ кода: она оценивает, какие категории риска применимы к агентам, обнаруженным в подключённых репозиториях GitHub, и указывает конкретные строки кода, на которых основана оценка; результаты можно экспортировать.

ИИ применяется и к самим доказательствам соответствия: watsonx.governance делает первичную оценку материалов против применимых требований, чтобы специалисты по комплаенсу занимались только местами, требующими глубокой проверки. IBM прямо оговаривает границу — оценка, сгенерированная ИИ, служит поддержкой решения, а итоговое определение соответствия остаётся за человеком. Через фреймворк Extensions организации могут подключить к этому процессу свои модели и сервисы.

Контекст, на который ссылается анонс, — июньская публикация IBM Think о переходе «от управления ИИ к гарантии ИИ», где описывался предыдущий замысел: связанный слой гарантий с непрерывной видимостью, исполняемыми контролями и понятной подотчётностью.

Что здесь проверяемо, а что нет

Проверяемо: сам анонс IBM с перечнем функций и интеграций (Arize AX, Langfuse, Google Cloud Gemini, IBM Bob, watsonx Orchestrate, GitHub) и июньская публикация о переходе к «гарантии ИИ», на которую ссылается релиз.

Не проверяется по этим публикациям работа функций на реальных внедрениях: IBM не приводит ни клиентов, ни замеров эффекта от новых контролей — заявленные выгоды остаются описанием возможностей продукта.

Оценка рисков OWASP Top 10 и ИИ-оценка доказательств описаны качественно: набора тестов, точности или доли ложных срабатываний в публикации нет.