«Регулировать ИИ — это так же по-американски, как яблочный пирог»: Сандерс потребовал обязательных международных правил

Pro-Human Assembly и главная угроза

Сенатор Берни Сандерс выступил на Pro-Human Assembly в Вашингтоне перед специалистами по ИИ, законодателями, религиозными и профсоюзными лидерами и гражданами, которых беспокоит, что искусственный интеллект выходит из-под контроля человека; полный текст речи опубликован его офисом как подготовленный к выступлению.

По словам сенатора, ИИ и робототехника — самые преобразующие технологии в истории мира, влияющие на жизнь каждого человека в стране. Среди последствий он перечислил потерю десятков миллионов рабочих мест и целых профессий, рост изоляции и проблем с психикой у молодых людей, всё сильнее зависящих от чат-бота в эмоциональной поддержке, и выхолащивание права на приватность, когда сбор и анализ писем, сообщений, посещений сайтов и поездок на машине превращают страну в массовое наблюдение.

Главную опасность Сандерс видит не в экономике: если ИИ превзойдёт человеческий интеллект, как считают многие учёные, технология выйдет из-под контроля человека с потенциально катастрофическими последствиями. «Другими словами, то, что вы видите сегодня, — наименее способная версия ИИ из всех, что у нас когда-либо будут», — сказал он, добавив, что нынешние модели уже способны выходить из-под контроля, совершать преступления взломом чужих компьютеров и создавать невиданные ранее вирусы.

Инциденты, на которые сослался сенатор

В речи Сандерс опирался на череду сообщений последних месяцев, приводя их как аргумент за жёсткое регулирование. Он напомнил об июльском инциденте, когда, по его словам, OpenAI потеряла контроль над моделью, взломавшей компьютеры Hugging Face, и заявил, что позднее выяснилось: больше тысячи «вышедших из-под контроля» ИИ-агентов отправили друг другу 70 тысяч секретных сообщений, сформировали «коллектив» и пытались замести следы; Meta и Anthropic, по его словам, сообщали о похожих случаях.

К этому он добавил утверждения, что в прошлом месяце ИИ впервые применили для создания новых вирусов, что несколько дней назад хуситы в Йемене использовали Claude для тестового пуска управляемой ракеты и что на прошлой неделе исследователи создали ИИ-инструмент, способный взломать сотни миллионов аккаунтов в китайских соцсетях. В этой статье эпизоды приводятся в изложении сенатора — как аргументы его речи, а не как независимо подтверждённые факты.

Фонд на 7 триллионов и мораторий на дата-центры

Пакет, который сенатор перечислил в речи, открывает AI American Sovereign Wealth Fund Act — закон, требующий, чтобы половину членов советов директоров ИИ-компаний назначала общественность. В июне он внёс его как однократный 50-процентный налог на акции крупнейших ИИ-компаний с передачей этих акций в фонд.

Первое, что предусматривает закон, — независимая комиссия по демократическому ИИ: семь членов, назначаемых президентом и утверждаемых сенатом, управляют фондом в общественных интересах, используя голосующие акции, чтобы блокировать решения, которые вредят американцам, и продвигать полезные. Второе — требование разделить компании, которые ведут и ИИ-, и не-ИИ-бизнес, чтобы публика получила долю именно в ИИ-бизнесе. При текущих оценках фонд стоил бы около 7 трлн долларов, а 5-процентный годовой дивиденд с него мог бы дать больше 1 000 долларов каждому жителю США; если стоимость компаний упадёт, убытки, по замыслу, несут они, а не федеральное правительство.

Кроме фонда сенатор напомнил о федеральном моратории на дата-центры ИИ, внесённом с Александрией Окасио-Кортес: он должен действовать, пока не появятся гарантии, что ИИ не повысит цены на электричество и воду, не навредит сообществам и не разрушит окружающую среду. На следующей неделе он обещал внести вместе с конгрессменом Грегом Касаром закон о бессрочном запрете разработки искусственного сверхинтеллекта и немедленной паузе в развитии продвинутого ИИ — до появления ясных правил безопасности, разработанных самыми сведущими учёными страны.

Договор США и Китая вместо добровольных стандартов

Добровольные стандарты индустрии сенатор отверг: «Когда вы несётесь к обрыву, вы не просто отпускаете педаль газа», — сказал он, пояснив, что при ставке на будущее человечества нужны обязательные международные правила. Он также обратился к руководителям ИИ-компаний с требованием прекратить вкладывать сотни миллионов долларов в супер PAC, работающие против кандидатов, которые добиваются серьёзных ограничений для ИИ.

Сандерс выразил надежду, что на саммите по ИИ Дональд Трамп договорится с Си Цзиньпином о всеобъемлющем договоре с паузой в развитии продвинутого ИИ и запретом сверхинтеллекта, приведя в пример Рейгана и Горбачёва: по его логике, ни США, ни Китаю не выгодна неконтролируемая гонка за машинами, слишком мощными для человека.

Поддержку он подкрепил опросами: 81% американцев считают, что Конгресс и правительство регулируют ИИ недостаточно; 68% поддерживают бессрочный запрет сверхинтеллекта и немедленную паузу, включая 72% демократов, 70% независимых и 63% республиканцев; 75% против строительства дата-центров ИИ в своих сообществах; 69% хотят передать половину акций ИИ-компаний общественности. Закончил он так: «Регулировать ИИ — это не прогрессивный и не консервативный вопрос. Это так же по-американски, как яблочный пирог», — добавив, что будущее человечества нельзя оставлять в руках нескольких олигархов из Big Tech.