Политика
Борьба Вашингтона за ответственность в области ИИ движется в сторону аудитов и информаторов
После месяцев борьбы за доступ к моделям политика США в области ИИ смещается в сторону раскрытия информации, проверки третьими сторонами, защиты информаторов и ответственности за системы с высоким воздействием.
Майкл С ·
Дебаты о ИИ в Вашингтоне переходят от вопроса о том, кто получает доступ к мощным моделям, к более сложному вопросу: кто может их проверять, кто может высказаться, когда что-то идет не так, и какие доказательства компании должны предоставлять перед развертыванием систем с высоким воздействием.
Борьба за доступ к пограничным моделям ясно показала, что правительство больше не готово рассматривать выпуск ИИ как обычное обновление программного обеспечения. Но проверка доступа — это лишь один рычаг. Более устойчивый режим подотчетности потребует аудитов, отчетности о происшествиях, защищенных внутренних уведомлений и более четких обязанностей для компаний, которые продают или внедряют ИИ в чувствительные условия.
Защита осведомителей имеет значение, потому что многие сбои ИИ сначала видны внутри компаний. Инженеры, исследователи безопасности, сотрудники по политике и команды внедрения могут видеть поведение моделей, практики работы с данными или случаи использования клиентами, которые никогда не появляются в публичной документации. Если эти люди не могут выражать свои опасения без риска для карьеры, внешний контроль начинается слишком поздно.
Аудиты важны по другой причине. Системы ИИ всё чаще продаются на основе общих утверждений: безопаснее, умнее, более соответствующие требованиям, более надёжные. Покупателям и регуляторам нужны доказательства, которые могут быть проверены кем-то, кроме команды коммуникаций поставщика.
Проблема заключается в определении триггера. Чат-бот, используемый для мозгового штурма, не должен сталкиваться с той же нагрузкой, что и модель, используемая для кредитных решений, медицинской сортировки, найма, правопорядка или критической инфраструктуры. Именно поэтому разговоры о политике склоняются к подразделению по уровням риска, отраслевым правилам и обязательствам, связанным с последствиями, а не только с размером модели.
Компании будут утверждать, что чрезмерно широкие требования к аудиту замедляют инновации и раскрывают конфиденциальные системы. Они не полностью ошибаются. Плохо разработанные правила могут превратить соблюдение требований в бумажную волокиту без повышения безопасности систем. Но отсутствие каких-либо правил оставляет общественность зависимой от добровольных раскрытий информации компаниями, у которых сильные стимулы к выпуску продуктов.
Наиболее полезный режим не будет требовать от правительства проверять каждый запрос или каждое обновление модели. Он будет требовать от компаний документировать, для чего предназначена система, какие данные и доказательства оценки поддерживают её внедрение, какие виды отказов были обнаружены, как регистрируются инциденты и какие способы возмещения доступны пользователям, если решения причиняют вред.
Политика будет запутанной, потому что ответственность за ИИ охватывает вопросы труда, конфиденциальности, конкуренции, национальной безопасности и защиты прав потребителей. Тем не менее, направление ясно. Доступ к моделям был первой резонансной борьбой. Следующими будут доказательства, раскрытие информации и подотчетность.
Если Вашингтон сделает это правильно, управление ИИ станет меньше о драматическом вмешательстве при каждом запуске и больше о прочных институтах. Если он допустит ошибку, каждый крупный релиз останется переговором, проводимым под давлением.
Темы: политика в области ИИ, Вашингтон, подотчетность, проверки