«Почти весь машинный интеллект займётся не блестящим, а скучным»: OpenAI открыла серию эссе о следующей экономике

Что опубликовано

1 октября на openai.com вышло эссе «The eternal complement» — первое в серии о «следующей экономике», которую OpenAI размещает на новой площадке для независимых голосов об AGI-будущем. Авторы — Хемант Асирватхам и Эллиот Мокски; они отдельно оговаривают, что текст отражает их собственные взгляды, а не позицию OpenAI или коллег. Это публицистика и рамка для обсуждения, а не отчёт об исследовании.

Основной тезис: фронтирный интеллект и способность воплотить его идеи — дополняющие блага. В экономике два ресурса называют дополняющими, когда рост одного повышает ценность другого; в этом смысле лучший телескоп повышает ценность хорошего астрономического вопроса, а лучший вопрос повышает ценность телескопа.

Институциональный интеллект

Авторы вводят понятие институционального интеллекта — незаслуженно непрославленного интеллекта исполнения: гений проектирует монумент, а институты укладывают камень, и хотя одно выглядит блестяще, а другое скучно, оба абсолютно необходимы. Дополнения бывают физическими — теория ждёт ускорителя, конструкция ждёт энергии и машин, — но многие не видны глазом: идее нужны законы, бюрократия, механизмы финансирования и цепочки поставок.

Иллюстрация масштаба: телескоп Галилея состоял из двух линз и трубы, а «Джеймс Уэбб» — это обсерватория за десять миллиардов долларов, восемнадцать зеркальных сегментов которой изготовлены с точностью пятьдесят нанометров, а сам проект собрали триста организаций из четырнадцати стран. Как формулируют авторы, чтобы видеть дальше, понадобились не только более светлые умы, но и более крупная бюрократия.

Растущая цена прогресса в цифрах

Опираясь на исследование продуктивности научных исследований Ника Блума и соавторов по американской экономике, авторы приводят три числа: поддержание закона Мура теперь требует более чем в восемнадцать раз больше исследователей, чем в начале 1970-х; общеэкономические эффективные исследовательские усилия выросли в двадцать три раза с 1930-х годов, а измеренная исследовательская продуктивность упала в сорок один раз.

К этому добавляются сдвиги в структуре науки: технический персонал растёт вдвое быстрее научного, использование специализированного оборудования удвоилось за четыре десятилетия, а современная фабрика микросхем стоит в пять раз дороже и устроена куда более громоздко, чем тридцать лет назад. Экономика, по мнению авторов, всё ещё растёт потому, что огромный рост исследовательского аппарата компенсирует падающую отдачу каждой отдельной единицы усилий.

Дефицит смещается от исполнения к вкусу

Сегодня ИИ уже делает исполнение менее дефицитным: он пишет код, разбирается в незнакомой литературе и превращает набросок в работающий прототип, а проекты, которые прежде требовали целой организации, всё чаще под силу одному человеку. Из этого авторы делают вывод о смене редкого ресурса: дефицитным становится вкус — способность решить, что стоит делать, какой вопрос стоит задавать и какое из тысячи правдоподобных направлений заслуживает разработки.

Но это, по их мнению, не конец истории. Если ИИ начнёт не только исполнять, но и предлагать повестку — что, как они отмечают, уже видно в математике, — идей станет больше, чем инфраструктура способна поглотить, и цивилизация окажется ещё более голодной до исполнения, чем прежде.

Две цивилизации

Авторы отказываются предсказывать, будет ли запас дополняющих благ расти, сжиматься или останется стабильным, и предлагают два направления вместо прогноза. В цивилизации глубины сверхинтеллект преодолевает нужду в физическом капитале и бюрократической оркестрации: лучшее рассуждение отбирает те немалые эксперименты, которые действительно важны, симуляции разрешают большую часть вопросов, а к реальности остаётся обращаться экономно. Аналогии авторы берут из истории науки: Менделеев мог описать ещё не открытые элементы, потому что остальная таблица задавала ограничения, а Стандартная модель дала физикам основания ждать хиггсовский бозон за десятилетия до его наблюдения.

В цивилизации широты, наоборот, сложность природы превосходит способность любого интеллекта — человеческого или машинного — продвигаться без крупных и всё более сложных экспериментов в реальном мире: новые лекарства всё равно приходится проверять на больших группах людей, потому что цифровые симуляции недостаточно верны реальности. Здесь растёт не мышление, а строительство: лаборатории автоматизируются, фабрики размножаются, производство энергии растёт, а институциональный интеллект доминирует, чтобы всё это состоялось.

Предельный образ цивилизации широты — сфера Дайсона: её проектирование требует экстраординарных прорывов, но сам проект состоит в основном из строительства и логистики астрономического масштаба. Отсюда формулировка, вынесенная в заголовок: почти весь машинный интеллект будет направлен не на блестящее, а на скучное. Расплата — темп: цивилизация широты медленная, её крупные изменения могут отстоять друг от друга на тысячелетия, а может быть, и на миллионы лет.

Почему человеческое любопытство остаётся

Даже если будущие системы превзойдут людей и в производстве фронтирных идей, и в координации ресурсов, авторы приводят три причины не считать человеческое любопытство лишним. Первая: обязанность перед просвещением сохраняется, даже если машины делают это лучше — пока не доказано, что человечеству нечего добавить, отказ тратит то, что можем добавить только мы. Вторая: у людей может остаться сравнительное преимущество именно во фронтирном интеллекте, а не в институциональном, а люди, в отличие от роботов, предпочитают быть креативными, а не рутинными. Третья: ценность разнообразия — если у человеческого мышления остаётся хоть немного уникальности, оно даёт творческую вариативность.

Завершается эссе образом, который и держит всю рамку: изобретательность не бывает одинокой, ей нужен мир, а гению — строители; и то, какой окажется история и её темп, зависит от того, потребуют ли великие умы больше мира или станут делать больше с меньшим.