Этика
Сотрудники ИИ просят правительства подготовиться к замедлению развития передового рубежа, а не слепо его преследовать
Петиция, подписанная более чем 1100 сотрудниками компаний, занимающихся ИИ, призывает правительства создать возможности для сознательного замедления развития передовых систем, когда риски превышают оценку и контроль.
Майкл С ·
Более 1 100 сотрудников из пограничный ИИ Компании подписали заявление с призывом к правительствам подготовиться к намеренному замедлению развития передовых технологий ИИ, когда их возможности превысят возможности оценки и контроля. Петиция не требует постоянной приостановки. Она просит государственные учреждения развить технический и правовой потенциал для действий до того, как кризис сделает этот выбор неизбежным.
Запрос имеет значение, потому что он смещает внимание с добровольных обещаний на готовность институтов. Правительство не может эффективно замедлить систему с высокой способностью, если у него нет оценщиков, доступа к информации, юридических полномочий и четкого понимания зависимых от нее последующих служб. Создание этих возможностей требует времени, поэтому призыв к подготовке более конкретен, чем один лишь призыв к осторожности.
Любое вмешательство будет иметь свои издержки, включая давление на конкуренцию и исследования. Именно поэтому стандарт должен быть основан на доказательствах и конкретен. Центральный вопрос заключается не в том, должны ли правительства контролировать выпуск каждой модели. Вопрос в том, могут ли они определить реальный порог риска и реагировать на него прозрачно, пропорционально и подотчетно.
Темы: безопасность ИИ, управление, передовые модели