Политика
Предложение DeepMind о надзоре за ИИ превращает безопасность в борьбу за институциональный дизайн
Призыв Демиса Хассабиса к созданию глобального ИИ-наблюдателя под руководством США выводит дискуссию о передовых моделях за пределы добровольных обязательств и ставит вопрос о том, кто должен тестировать и останавливать опасные системы.
Майкл С ·
Google DeepMind Призыв главы Дэмиса Хассабиса создать возглавляемый США глобальный надзорный орган по ИИ смещает дискуссию о безопасности к её самой сложной практической проблеме: кто обладает полномочиями и экспертизой, чтобы решать, когда модель переднего края слишком рискованна для выпуска?
Регулятор с реальной тестировочной способностью мог бы обеспечить внешнюю проверку, но ему потребуются технические специалисты, четкие юридические ограничения и достаточное международное сотрудничество, чтобы избежать превращения в формальную процедуру.
Центральный вопрос проектирования — это масштаб. Страж не может проверять каждое обновление программного обеспечения, но он может сосредоточиться на системах с возможностями, которые вызывают кибернетические, биологические, автономные или национально-правовые угрозы. Он также должен избегать превращения соблюдения требований в барьер, который могут преодолеть только крупнейшие лаборатории.
Импровизированные ограничения уже показали, насколько трудно управлять современным ИИ после того, как его запуск начался. Вопрос не в том, придёт ли надзор, а в том, будет ли он достаточно компетентным, чтобы заслужить доверие.
Темы: DeepMind, управление ИИ, оценка моделей