«Anthropic не может наложить вето на публикацию»: METR получила доступ уровня сотрудника к оценке рисков моделей

Какой доступ получила METR

Anthropic сообщила, что подключила шесть сотрудников METR, обеспечив их корпоративным железом, местом в офисе и доступом к внутренним инструментам и системам, сопоставимым с тем, что есть у её собственных команд оценки рисков. За пределами небольшого списка чётко очерченных категорий — данные клиентов, информация, защищённая адвокатской тайной, и сведения об архитектурах моделей — сотрудникам компании рекомендовано делиться с ними информацией так же, как с коллегой, который занимается рисками выравнивания.

Работа ограничена небольшой командой, действующей по юридически обязывающим соглашениям; остальные сотрудники METR отгорожены от этой работы, включая исследователей, которые взаимодействуют с Anthropic по другим проектам. Компания подчёркивает, что это не способ для сторонних организаций получить её информацию или данные её клиентов и партнёров. В сноске отдельно объясняется осторожность с данными об архитектурах: оценщики, как банковские экзаменаторы, могут работать и с другими компаниями, а риск случайной утечки по этой категории высок при низкой обычно пользе для оценки риска — когда сведения действительно важны, их, по словам компании, будут стараться передать, но это потребует явных внутренних согласований.

Что можно публиковать

METR будет публиковать свой анализ уровней риска Anthropic, инцидентов и практик; компания не может наложить вето на публикацию, но может потребовать вырезать информацию из узких заранее определённых категорий. Оценщик вправе публично характеризовать сами вырезания и говорить, считает ли он их оправданными, — при условии, что не раскрывает вырезанное.

Три уровня доступа

Anthropic описывает градацию: на первом уровне оценщики проводят узко очерченные исследования рисков, объём доступа определяет сама компания, а публиковать результаты можно с её одобрения; на втором — информация шире, публикация без одобрения, но компания всё ещё может требовать удаления отдельных категорий; третий уровень — это и есть схема с METR: доступ уровня сотрудника плюс права публикации, близкие ко второму уровню. Со временем компания рассчитывает иметь несколько оценщиков третьего уровня, каждый из которых публикует собственный анализ её риск-профиля и ключевых решений.

Из названных партнёров SecureBio сейчас на первом уровне: организация разбирает главу о химическом и биологическом оружии августовского отчёта о рисках, уже закончив и опубликовав пилотный разбор предыдущего отчёта, после чего компания рассмотрит расширение доступа. С Accenture и её подразделением Faculty Anthropic работает над партнёрством, которое включает оценку и red-teaming моделей, проверки выравнивания, тестирование защитных механизмов и развитие компетенций в обеих организациях. Кроме того, компания говорит о ранних переговорах с рядом других организаций, среди которых названа Hugging Face.

Зачем это компании и на что она опирается

Обоснование строится на том, что публично делиться всей информацией о безопасности нельзя: часть сведений полезна злоумышленникам, часть коммерчески чувствительна — например, данные о вычислениях и обучении. Вместо этого Anthropic передаёт оценщикам глубокий доступ и рассчитывает, что те поделят свидетельства и выводы о рисках, сокращая разрыв между пониманием стороннего наблюдателя и самой компании. Среди требований к оценщикам названы экспертиза — включая понимание того, как оценки могут давать сбои, в том числе через притворное выравнивание, — независимость без доли в оцениваемой компании и финансовой либо операционной зависимости от неё, достаточный доступ и свобода публиковать наблюдения. Аналогия, которую приводит компания, — банковский надзор с постоянно работающими экзаменаторами внутри крупнейших банков. Заявленный вывод звучит как призыв ко всей отрасли: Anthropic встраивает оценщиков добровольно и считает, что так должна поступить каждая компания, работающая на фронтире. В начале поста упомянуты и другие основания — обязательство о более сильной независимой оценке, взятое месяцем ранее, и подписанный компанией White House Accord on Super Intelligence о работе с независимыми аудиторами или оценщиками.

Что осталось за рамками сообщения

Об устройстве доступа читатель узнаёт из текста самой Anthropic: это компания описывает уровни, называет исключения и формулирует, что «не может наложить вето». Содержание обязывающих соглашений, сроки работы команды METR, число и тематика будущих публикаций и порядок разбора споров о вырезаниях в посте не раскрываются.

Публикация METR даёт независимую рамку к тому же партнёрству: организация ведёт отдельный раздел с проверками отчётов разработчиков, среди которых — разбор раздела о рисках автоматизации R&D в февральском отчёте Anthropic о рисках (8 мая 2026 года), red-teaming внутренних систем мониторинга агентов (сотрудник METR в течение трёх недель искал уязвимости, 26 марта 2026 года), проверка отчёта о риске саботажа для Claude Opus 4.6 (12 марта 2026 года) и пилотного отчёта лета 2025 года (28 октября 2025 года). Там же среди оценок моделей значится Claude Opus 5.5 (22 сентября 2026 года) с пометкой «партнёрство», и отдельно сказано, что компенсацию за эту работу METR не принимает, а компании, включая Anthropic, предоставляют доступ и токены. Каких-либо условий третьего уровня на странице METR не приводится: градация целиком изложена Anthropic, и второй стороны, подтверждающей те же формулировки, в опубликованных материалах нет.