Политика
План стандартов DeepMind ставит передовые регулирования ИИ на путь FINRA
Демис Хассабис призвал создать независимый орган по стандартам для проверки передовых ИИ-систем перед их выпуском, обострив дискуссию о том, должны ли мощные модели регулироваться стихийным давлением правительства или постоянным техническим учреждением.
Майкл С ·
Генеральный директор Google DeepMind Демис Хассабис перевел дебаты о регулировании передового ИИ с вопроса о срочном вмешательстве на вопрос институционального дизайна. В предложении, о котором сообщалось TechCrunch и обсуждаемое в сообществе по вопросам политики ИИ, Хасcабис призвал создать возглавляемый США орган стандартизации, который мог бы проверять самые мощные модели ИИ перед их выпуском, разрабатывать протоколы технической оценки и в конечном итоге стать воротами, через которые передовые лаборатории должны будут пройти, прежде чем развертывать свои сильнейшие системы на американском рынке.
Предложение появляется после серии непрозрачных споров о выпуске вокруг мощных моделей. Ранее TechCrunch сообщал, что OpenAIРелиз Sol и спор о доступе к Fable у Anthropic привлекли внимание правительства без ясного публичного отчета о том, кто оценивал модели, какие тесты использовались и какой стандарт считался достаточно безопасным. Хасабис утверждает, что такие решения не должны приниматься импровизированно каждый раз, когда новая модель готова. Их следует направлять через институт с техническим персоналом и предсказуемыми процедурами.
Модель, на которую сослался Хасабис, это Финансовый регуляторный орган отрасли, саморегулирующая организация, которая осуществляет надзор за брокерами-дилерами на рынках ценных бумаг США под федеральным контролем. Аналогия показательная. Это не призыв к созданию традиционного агентства, полностью расположенного в Вашингтоне. Речь идет о создании органа, финансируемого отраслью, наблюдаемого правительством и оснащенного достаточной технической экспертизой для оценки быстро развивающихся систем до их масштабного применения.
Эта структура предназначена для решения реальной слабости в управлении ИИ. Общего назначения агентствам часто не хватает доступа к вычислительным ресурсам, экспертизы по безопасности моделей и сотрудников для оценки, необходимых для тестирования передовых систем. Но чисто промышленный совет столкнулся бы с очевидной проблемой доверия. Крупнейшие компании, которые с наибольшей вероятностью будут регулироваться, также будут иметь наибольшее влияние на финансирование, стандарты и сроки. Версия Хассабиса пытается сбалансировать эти силы за счет включения независимых экспертов и open-source представители, оставляя правительство Соединённых Штатов в надзорной роли.
Business Insider и Вердж Оба сообщили, что Хассабис рассматривал этот момент в контексте появления искусственного общего интеллекта в течение нескольких лет, а не десятилетий. Этот срок оспаривается, но политический вывод ясен: если лаборатории считают, что модели приближаются к экономически и стратегически разрушительным возможностям, добровольные меры безопасности и частные отчёты красной команды не будут навсегда удовлетворять правительства. Орган по стандартам мог бы стать способом создать повторяемый процесс до того, как кризис вынудит использовать более прямолинейные меры.
Непосредственная задача — определить порог. Регулятор на передовом рубеже должен знать, какие системы считаются передовыми системами. Размер модели больше не является достаточным критерием. Способности могут проявляться через масштаб обучения, вычисления во время тестирования, использование инструментов, агентное оформление, комбинации моделей, доступ к чувствительным данным или последующую дообучение. Орган, ориентирующийся только на оценки по бенчмаркам, может пропустить опасные системы и чрезмерно регулировать безвредные. Орган, претендующий на излишнюю власть, может стать узким местом для исследований и открытой разработки.
Политика также сложна. Администрация Трампа поддерживала расширение инфраструктуры ИИ и скептически относилась к созданию регулятора ИИ в стиле FDA. В то же время сотрудники национальной безопасности показали, что готовы оказывать давление на лаборатории по поводу доступа к моделям, когда они считают, что система представляет стратегический риск. Подход, похожий на FINRA, предлагает средний путь: это не обычное новое агентство, но и не полностью свободное управление выпуском.
Сторонники открытого исходного кода будут внимательно следить за деталями. Если организация по стандартам в основном отражает предпочтения крупных закрытых лабораторий, она может стать барьером для соблюдения, который укрепляет позиции действующих участников. Если же она предоставляет создателям открытых моделей значимое представительство, это может помочь в построении наука об оценке что применимо за пределами небольшого круга частных поставщиков API. Хассабис намекал на это более широкое участие, но устав, правила финансирования и структура совета будут определять, сохранится ли это обещание при столкновении с институциональной политикой.
Пока это предложение не является законом. Это знак того, что управление передовыми ИИ выходит из фазы декларации принципов. Следующая борьба будет за то, кто будет тестировать самые мощные модели, кто оплачивает тестирование, кто видит доказательства и кто имеет полномочия сказать «нет». Хасабис предложил один ответ. Более сложный вопрос заключается в том, смогут ли правительства, лаборатории и гражданское общество создать институт, которому доверяют настолько, чтобы использовать его до прихода следующей борьбы за выпуск.
Темы: DeepMind, регулирование ИИ, передовые модели, Демис Хассабис