«Ответственность становится проверяемой»: Anthropic привлекла Accenture к встроенной оценке своих моделей

18 сентября 2026 года Anthropic объявила о партнёрстве с Accenture в области независимой оценки фронтирных ИИ-моделей. Компания описывает это как важный шаг к обязательству из эссе своего генерального директора «We Must Pace the Frontier» — встроить оценщиков внутрь Anthropic.

Партнёрство возглавит Faculty — специализированный ИИ-бизнес Accenture. В него войдут оценка и red-teaming моделей, проведение оценок согласованности (alignment) и проверка защитных механизмов (safeguards). Anthropic объясняет выбор партнёра так: Accenture помогает бизнесу и правительствам внедрять ИИ в самых разных отраслях, и её понимание того, как предприятия применяют ИИ на практике, формирует её подход к безопасности — этот взгляд Accenture принесёт и в оценку моделей Anthropic.

Anthropic и Accenture ожидают, что каждая из компаний вложит не менее $1 млрд в наращивание компетенций в этой области в течение следующих пяти лет.

Доступ уровня сотрудника

Встроенная оценка — новое направление, и многие детали того, как оно будет работать, ещё прорабатываются. Ключевое отличие от сегодняшних внешних оценщиков в доступе: встроенные оценщики будут работать внутри ИИ-компаний, а их доступ будет сопоставим с доступом сотрудника. Такой доступ позволяет наблюдать, как модели формируются в процессе обучения, следить за решениями, которые определяют их создание и развёртывание, и напрямую разговаривать с сотрудниками.

С этой позиции оценщики могут оценивать то, как компания реально работает, проверять, выполняет ли она заявленные обязательства по безопасности, и находить слепые зоны. Кроме того, они могут сообщать об инцидентах и давать публике более информированную картину пользы и рисков.

Anthropic отдельно оговаривает, что независимые встроенные оценщики не снижают её ответственность, а делают её более проверяемой: безопасность моделей остаётся ответственностью самой компании.

Что именно обещано в эссе

Встроенные оценщики — первый шаг трёхступенчатого плана и единственный, на который Anthropic обязуется в одностороннем порядке: они получают доступ уровня сотрудника, чтобы проверять соблюдение практик безопасности и сообщать об инцидентах. В эссе Дарьо Амодеи такая практика названа радикальной и выходящей далеко за рамки того, что сегодня делает любая ИИ-компания.

Причины названы три: проверяемость, прозрачность и второе мнение. Оценщики могут на уровне деталей проверить, действительно ли компания следует заявленным практикам обучения, развёртывания, эксплуатации и защиты: любые обязательства по темпу развития неизбежно содержат неоднозначности и трактовки в духе «буква закона против духа закона», и здесь нужна нейтральная третья сторона, которая видит детали. Отчёты о рисках пишет сама компания и сама решает, что включить и что опустить, — встроенные оценщики меняют эту динамику. Наконец, они дают второе мнение, свободное от коммерческих стимулов: часть пользы для безопасности возникает просто потому, что оценщики замечают то, о чём сотрудники не подумали, но готовы исправить.

Условия работы прописаны конкретно: рабочие места в офисах, пропуска и корпоративные ноутбуки, а также доступ к рабочим пространствам, инструментам и правам, в основном сопоставимый с тем, что есть у внутренних команд оценки рисков. Исключения возможны там, где этого требуют закон или контракты либо где нужно защитить частную информацию клиентов и партнёров, а доступ к значимым данным подкрепляют внутренние нормы, включая живые разговоры с сотрудниками.

Контракт должен давать внешним оценщикам право публиковать ключевые выводы об уровнях риска, инцидентах, практиках и о полученном или не полученном доступе — без редакционного контроля со стороны Anthropic. У компании остаётся узкое право скрывать сведения, чувствительные для безопасности, защищённые юридической привилегией, коммерчески чувствительные или конфиденциальные для третьих сторон, но закрывать выводы только потому, что они невыгодны, нельзя; сами оценщики могут публично сказать, если редактура убрала что-то важное для их выводов.

Стандартов и механизма финансирования пока нет

Anthropic признаёт: пока нет ни стандартов того, к какой информации должны иметь доступ встроенные оценщики и как они должны отчитываться о найденном, ни устоявшейся системы финансирования независимой оценки. В долгосрочной перспективе компания считает, что финансирование должно идти из объединённых или государственных источников, — как она предлагала в своём Advanced AI Framework в июне.

В июньском документе Anthropic предлагала требовать от разработчиков, попадающих под регулирование, чтобы в течение шести месяцев после вступления его в силу они регулярно привлекали как минимум одного квалифицированного независимого оценщика — для изучения моделей, сбора информации о защитных механизмах и собственной оценки перечисленных рисков. Там же сказано прямо: самооценки недостаточно. Тогда же Anthropic предлагала растить экосистему независимой оценки: разрабатывать и публиковать стандарты для оценщиков, проработать систему лицензирования, обеспечивать государственное финансирование или объединённое финансирование, чтобы оценщики могли выполнять свою работу, оставаясь финансово независимыми от любого конкретного разработчика, а также поддерживать ресурсами и деньгами молодые организации, которые хотят стать оценщиками.

Поскольку ни системы финансирования, ни стандартов сегодня не существует, Anthropic планирует работать с разными оценщиками на разных условиях. Учитывая важность и срочность этой работы, компания будет финансировать работу Accenture напрямую; параллельно она ведёт диалог с METR и другими некоммерческими оценщиками, чтобы опробовать отдельные элементы встроенной оценки на их собственные средства.

Неэксклюзивное партнёрство

Anthropic ожидает, что фронтирные лаборатории будут работать сразу с несколькими организациями: партнёрство неэксклюзивное — Anthropic намерена работать и с другими оценщиками, которых объявит в ближайшие недели, а Accenture будет работать с другими разработчиками ИИ в похожем качестве.

Компания продолжит обучать и выпускать фронтирные модели и хочет, чтобы независимые оценщики работали рядом с ней; о развитии подхода и подключении новых оценщиков обещают рассказывать по мере продвижения. В эссе Амодеи отдельно отмечено, что когда встроенные оценщики появятся у критической массы ИИ-компаний США, проверяемое замедление темпа станет реалистичнее — вплоть до привязки к детальным свойствам моделей или обучающих пайплайнов. Там же Anthropic призывает другие фронтирные компании последовать этому примеру.