Политика
OpenAI поддерживает обязательные федеральные правила безопасности ИИ и четыре калифорнийских законопроекта
OpenAI говорит, что последний скачок в возможностях модели изменил его позицию по нескольким калифорнийским мерам безопасности, поставив независимые оценки, стандарты аудиторов, защиту молодежи и контроль биологических рисков в центр восстановленной политики.
Майкл С ·

ВАШИНГТОН. OpenAI является призыв к обязательным национальным требованиям безопасности для самых способных систем искусственного интеллекта и поддерживает четыре калифорнийских законопроекта, которые ранее не всегда поддерживал, заявляя, что недавний скачок в возможностях моделей изменил соотношение между ожиданием идеальной федеральной законодательной базы и действием сейчас. Этот сдвиг объединяет независимые технические оценки, стандарты аудиторов, защиту несовершеннолетних и меры предосторожности в отношении биологических инструментов в один пакет политики.
Компания по-прежнему хочет, чтобы Конгресс создал единый национальный режим, основанный на возможностях. Но её решение поддерживать меры на уровне штатов является практическим признанием того, что федеральное законодательство остаётся неопределённым, в то время как передовые системы продолжают совершенствоваться. OpenAI заявил, что Калифорния может помочь установить правила для национальной системы независимой оценки, даже если законы штатов не являются заменой федерального регулирования.
Отмена политики важнее, чем поддержка
OpenAI выявила четыре законопроекта. SB 813 будет поддерживать инфраструктуру для независимых оценок безопасности. AB 1405 установит требования к регистрации, независимости, прозрачности и подотчетности для аудиторов ИИ. SB 1119 потребует подтверждения возраста, оценки рисков, независимых аудитов и родительского контроля для чат-ботов-компаньонов, используемых детьми и подростками. AB 1864 потребует от поставщиков синтеза генов и производителей оборудования соблюдения федеральные стандарты проверки.
Эти предложения касаются различных рисков, но у них есть общая предпосылка: поставщики моделей не должны быть единственными институтами, решающими, безопасны ли их системы. Оценщикам нужен доступ к доказательствам, аудиторам нужны стандарты, снижающие конфликты интересов, а правила для продуктов должны действовать до того, как предсказуемый вред станет заголовком. Основной сложный политический вопрос заключается в том, как предоставить этот доступ, не раскрывая веса модели, методы безопасности или конфиденциальные тестовые материалы.

Компания также предложила отраслевые стандарты для мониторинга пограничный ИИМониторинг часто описывается как технический контроль, но это институциональное обязательство. Лаборатория должна определить, какие события вызывают проверку, кто может остановить внедрение и какие доказательства доходят до внешнего органа. Без этих решений система мониторинга может собирать огромные объемы журналов, не меняя уровень подотчетности.
Отказ OpenAI привлечет внимание, поскольку компания ранее утверждала, что разрозненные требования штатов могут замедлить инновации и создать непоследовательные обязательства. Эта обеспокоенность не исчезла. Модель, используемая по всей стране, не может легко соответствовать пятидесяти несовместимым режимам тестирования. Тем не менее, федеральное предписание без значимого федерального стандарта устранило бы единственный действующий путь, доступный для штатов. Новая позиция пытается объединить обе идеи одновременно: штаты могут действовать сейчас, в то время как Конгресс в конечном итоге должен создать минимальный стандарт.
Аудиты требуют полномочий, а не театра соблюдения
Предложение аудитора может оказаться самым значительным. Финансовые и критически важные для безопасности отрасли давно усвоили, что аудит заслуживает доверия лишь в той мере, в какой доступны доказательства, а также зависит от независимости проверяющего. Оценки ИИ добавляют необычные проблемы. Результаты могут изменяться в зависимости от запроса, доступности инструментов, обновлений модели и окружающей системы. Положительная оценка на статическом эталоне может мало что сказать о работе агента с учетными данными внутри живой сети.
Роль Калифорнии усиливается за счет концентрации передовых лабораторий и технических специалистов в этом штате. Правила, написанные там, могут стать фактически национальными требованиями, поскольку поставщики редко поддерживают полностью отдельный продукт для одного рынка. Такое влияние дает законодателям рычаги, но также создает обязанность тщательно формулировать пороговые значения. Требования должны увеличиваться вместе с продемонстрированной способностью и риском развертывания, а не рассматривать небольшую открытую модель как систему, способную автоматизировать сложную киберработу.

Безопасность молодежи и биологический скрининг показывают, почему политика не может ограничиваться оценкой модели. Дополнительные продукты формируют продолжительные обсуждения и могут способствовать зависимости, даже если базовая модель проходит общую проверку безопасности. Биологические защитные меры часто находятся в лабораториях и цепочках поставок, где проверка заказа может быть важнее, чем фильтрация ответа. Регулирование должно касаться как продукта, так и физических систем вокруг модели.
Национальный институт стандартов и технологий потратил годы на разработку добровольных руководство по управлению рисками. Добровольные рамки могут создавать общий словарь, но текущие дебаты касаются того, когда этот словарь становится обязательным для исполнения. Поддержка OpenAI обязательных требований дает законодателям политическое прикрытие для действий, при этом гарантируя, что компания будет оцениваться по правилам, которые она предлагает принять другим.
Немедленный тест заключается в том, устоят ли одобрения при детализации и реализации законодательных мер. Более сложный тест заключается в том, получат ли оценщики достаточную независимость, информацию и полномочия, чтобы оспаривать лабораторию до начала её работы. Политическое окно полезно только в том случае, если оно приводит к созданию институтов, способных сказать «нет», когда этого требует доказательная база.
Темы: OpenAI, регулирование ИИ, Калифорния, безопасность ИИ, аудиты