Политика
Женева пытается превратить управление ИИ из речей в институты
Глобальная комиссия ООН по искусственному интеллекту во благо и встречи по вопросам управления в Женеве показывают стремление создать международные институты ИИ до того, как частные лаборатории и национальные правительства самостоятельно ужесточат правила.
Майкл С ·
Глобальный Управление ИИ Дебаты переносятся в Женеву с знакомой проблемой и новой срочностью: все согласны с тем, что искусственный интеллект становится стратегической инфраструктурой, но пока никто не создал институты, которые могли бы управлять им через границы.
Организация Объединённых Наций и Международный союз электросвязи используют платформу AI for Good для сбора технологических лидеров, представителей правительств и международных чиновников. Комиссия прибывает на фоне более широких обсуждений в Женеве о том, должно ли регулирование ИИ осуществляться национальными правительствами, частными лабораториями, клубами союзных государств или более представительным глобальным институтом.
Этот вопрос не является процедурным. Он определит, кто получит доступ к передовым моделям, кто будет определять стандарты безопасности, как бедные страны будут участвовать и станут ли правила в области ИИ геополитической привилегией, а не глобальным общественным благом. Сильнейший аргумент ООН заключается в легитимности: риски ИИ не останавливаются на границах, а сбои в кибербезопасности, дезинформация, нарушения на рынке труда, концентрация моделей и военная эскалация могут повлиять на страны, которые не создавали эти системы.
Если управление ИИ будет разрабатываться только Соединенными Штатами, Китаем, Европой и крупнейшими технологическими компаниями, многие страны будут получать правила, а не участвовать в их формировании. Это может ослабить принятие, доверие и соблюдение. Глобальное управление не может работать, если большая часть мира воспринимает его как чью-то чужую промышленную политику.
Проблема заключается в возможностях. ООН может собирать встречи, но она автоматически не имеет доступа к внутренним структурам передовых моделей, экономике центров обработки данных, цепочкам поставок чипов или доказательствам развертывания в реальном времени. Серьезному институту искусственного интеллекта потребуются технический персонал, возможности оценки, каналы для инцидентов и политическая независимость, а не просто более насыщенный календарь саммитов.
При отсутствии обязательных глобальных институтов частные лаборатории ИИ сами формируют многие нормы. Они решают вопросы доступа к моделям, процессы проверки безопасности, допустимые правила использования, время выпуска, условия для разработчиков и то, что считается достаточными доказательствами безопасности. Это не является по сути нелегитимным; лаборатории обладают экспертизой и управляют системами. Но частное управление становится хрупким, когда доходы, конкуренция и национальная безопасность тянут в разные стороны.
Возможность Женевы заключается в том, чтобы создать связующую структуру до того, как правила закрепятся в других местах: общие практики оценки, форматы отчетности, таксономии рисков моделей, нормы раскрытия информации о вычислениях и помощь странам, у которых нет собственных институтов безопасности ИИ. Универсальный договор об ИИ в ближайшее время маловероятен, но общие стандарты более реалистичны и могут иметь первостепенное значение.
Стандарты менее драматичны, чем договоры, но они могут стать мощными. Как только правила закупок, страховые рынки, корпоративные советы и регуляторы начинают ожидать единого досье по безопасности, у компаний появляется причина соблюдать его даже до появления глобального закона.
Разговор о регулировании также должен включать развитие. Многие страны хотят использовать ИИ для систем здравоохранения, образования, сельского хозяйства, государственного управления и реагирования на стихийные бедствия. Если правила безопасности будут только ограничивать доступ, не поддерживая развитие потенциала, система будет выглядеть как протекционизм. Достоверный глобальный институт помог бы странам оценивать инструменты, развивать местные кадры, защищать данные, вести переговоры с поставщиками и участвовать в установлении стандартов.
Женева не решит проблему управления ИИ за неделю. Но она может изменить форму проблемы, переведя дебаты с выступлений о общих ценностях на институты, которые могут проверять системы, сравнивать доказательства и давать большему числу стран значимый голос прежде, чем правила закрепятся.
Темы: Организация Объединённых Наций, управление ИИ, Женева, ИИ для блага