Политика
Законодатели Великобритании призывают к международному запрету на искусственный сверхинтеллект
Более 70 британских парламентских депутатов и пэров призывают правительство поддержать запрет на создание искусственного суперразума и возглавить международную инициативу по этому предложению.
Майкл С ·
Кампания по запрету суперразума в Великобритании. Более 70 Британские депутаты и пэры нажимают на правительство, чтобы оно поддержало запрет на создание искусственного суперразума и возглавило международные усилия по этому предложению. Развитие произошло в Брифинг Signal Diff 12 сентября, помещая конкретное решение, освобождение или раскрытие за дебаты, которые часто обсуждались в более широком контексте.
Кампания отражает переход от регулирования использования существующих моделей к обсуждению того, следует ли вообще создавать будущие возможности. Это более сложная юридическая задача, поскольку искусственный суперразум не имеет общепринятого технического порога.
Что изменилось
Международный запрет потребовал бы verification внутри частных лабораторий и через границы. Правительствам потребуется общая дефиниция, доступ к доказательствам и последствия за скрытые тренировочные запуски.
Немедственным последствием является операционное. Компании, политики и технические команды теперь должны перевести объявление в бюджеты, контроль и измеримые показатели. Этот процесс обычно выявляет разрыв между утверждением о продукте и системой, которой можно доверять при реальных нагрузках.
Политическая задача заключается в том, чтобы превратить широкое принципиальное положение в обязательное к исполнению требование, не замораживая технологию на текущем уровне разработки. Ст Принципы ИИ ОЭСР предоставить международный ориентир, в то время как Рамочная система управления рисками ИИ NIST показывает, как управление может следовать за риском и возможностями, а не только за названием продукта.
Предложение может скоро не стать законом, но оно расширяет политическую коалицию, требующую ограничений до того, как системы достигнут спорного порога. Оно также заставляет сторонников объяснять, как полезные исследования будут продолжаться.
Следующий тест
Следующие доказательства будут поступать из реализации, а не из обещаний. Полезная отчетность должна отслеживать, кто получает доступ, какие меры предосторожности обязательны, как раскрываются сбои и могут ли клиенты или общественность независимо проверить заявленный результат.
Это различие важно, потому что рынки ИИ быстро переходят от объявления к предположению. Как только способность рассматривается как неизбежная, закупки и политика могут опережать доказательства. Дисциплинированный ответ сохраняет видимость возможности, не рассматривая неопределённость как неудобство.
Кампания по запрету суперразума в Великобритании в конечном итоге будет оцениваться по тому, какие изменения происходят вне цикла запуска: выполненная работа, сниженные риски, понесенные затраты и люди, которые сохраняют полномочия, когда система ошибается. Это более медленные показатели, но именно они определяют, продлится ли это развитие.
Темы: Соединённое Королевство, сверхинтеллект, политика в сфере ИИ, Парламент