Исследования
План науки об ИИ Белого дома переосмысливает федеральные исследования вокруг открытий с помощью машин
Доклад Белого дома «Наука: новая золотая эра» призывает к созданию исследовательских учреждений, ориентированных на ИИ, инфраструктуры для верификации и миссии «Генезис», которая могла бы изменить способы расходования федеральных средств на научные исследования.
Майкл Г ·
The Белый дом опубликовал обширный отчет по научной политике, который ставит искусственный интеллект в центр того, как федеральное правительство хочет финансировать исследования, организовывать их, проверять и превращать в национальную способность. Отчет, Science: A New Golden Age, был опубликован 21 июля Майклом Крациосом, директором Офис политики науки и технологий, и рассматривает настоящий момент как первый полный пересмотр американской научной деятельности со времен послевоенной книги Ванневера Буша «Наука: Бесконечный рубеж». Его наиболее важное утверждение заключается в том, что искусственный интеллект не должен лишь помогать учёным на переднем крае существующих институтов. Он должен способствовать переработке этих институтов так, чтобы ускорить открытие, обогатить наборы данных, создать автономные лаборатории и обеспечить непрерывную верификацию.
В отчёте указаны Миссия «Генезис» как ведущая национальная инициатива в области ИИ для науки, призывающая к созданию специализированных научных фундаментальных моделей, высокоценностных наборов данных, инфраструктуры проверки с использованием ИИ и автономных лабораторий. Это более широкая амбиция, чем просто закупка дополнительной вычислительной мощности для существующих грантовых программ. Она рассматривает исследование как систему, в которой инструменты, симуляции, наборы данных, модели и средства проверки работают вместе, чтобы генерировать и проверять гипотезы на масштабах, недостижимых для организаций, состоящих только из людей. Обещание заключается в более быстром открытии лекарств, новых материалах, чистых энергетических системах, более сильном производстве, более надежной науке и исследовательской базе, способной конкурировать с государственной технологической инициативой Китая.
Политический нюанс заключается в том, что план может перенаправить федеральные исследовательские приоритеты от привычных университетских каналов к отдельным исследователям, программам миссий, региональным кластерам и инфраструктуре, ориентированной на ИИ. Газета Wall Street Journal сообщила, что администрация изучает вопрос о том, как примерно 200 миллиардов долларов федеральное финансирование исследований выделяется, с большим акцентом на ИИ и прямую поддержку исследователей. Университеты воспримут это как предупреждение. Федеральные гранты давно обеспечивают финансирование лабораторий, аспирантов и институциональных возможностей. Переход к миссиям и стипендиям может вознаградить скорость и прикладные результаты, но также может ослабить более медленную экосистему фундаментальной науки, которая создала многие инструменты, от которых сейчас зависит ИИ.
Наиболее технически серьёзной частью отчёта является его акцент на проверку. В документе предупреждается, что ИИ может облегчить более быстрое создание правдоподобных научных утверждений, чем институты успевают их проверить. В нём утверждается, что генератор науки требует проверяющего, равного по строгости и масштабам, включая системы, способные анализировать представленные статьи, восстанавливать вычислительные среды, выполнять анализы в изолированных средах и сравнивать результаты с заявленными выводами. Это трезвое наблюдение. Наука с помощью ИИ потерпит неудачу, если она создаст поток внушительно выглядящих, но слабо проверенных статей, синтетических данных и хрупких гипотез.
Повестка дня по проверке отчетов также признает, что наука сталкивается с проблемой пропускной способности. Журналы, рецензенты, грантовые комитеты и исследования по воспроизведению уже перегружены объемом современной науки. ИИ может усугубить эту ситуацию, увеличивая количество отправляемых материалов и снижая затраты на создание отточенных утверждений. Однако та же технология может помочь аудировать код, повторно проводить эксперименты, проверять статистические утверждения, отслеживать наборы данных и определять работы, заслуживающие человеческого внимания. Будущей научной институции, возможно, понадобится как человеческое суждение, так и проверка в масштабе машин, с установленными стандартами для обмена данными, пакетов воспроизведения и вычислительных процессов. reproducibility, и прозрачную методологию.
Под риторикой скрывается реальная инженерная проблема. Специализированные научные фундаментальные модели нельзя построить только на основе общедоступных текстов в интернете. Им нужны курируемые экспериментальные данные, журналы инструментов, результаты симуляций, лабораторные протоколы, отрицательные результаты и метаданные, которые часто находятся в несовместимых системах. Автономные лаборатории требуют роботов, датчиков, систем безопасности, программного обеспечения для планирования и контроля со стороны человека. Средства верификации нуждаются в стандартизированных средах и стимуляторах, которые заставляют исследователей публиковать достаточно деталей, чтобы машины могли повторно выполнить их работу. Ничего из этого нельзя решить с помощью политического отчета. Требуются закупки, стандарты, дисциплина финансирования и долгосрочное обслуживание.
Последствия для рабочей силы столь же значительны. В докладе призывается к практическому техническому обучению, стажировкам и региональным инновационным кластерам, связанным с передовым производством. Это предполагает более широкое определение научного труда, где техники, инженеры по данным, специалисты по автоматизации лабораторий, обслуживающий персонал программного обеспечения и эксперты в конкретных областях все становятся частью системы открытий. При правильной реализации это могло бы открыть научные карьеры за пределами узкой академической лестницы. При плохой реализации это может превратить исследования в сверху вниз организованную промышленную программу, где местные учреждения будут гнаться за федеральными приоритетами без стабильной поддержки независимого исследования.
Риск политики заключается в переусердствовании. Наука в США стала мощной отчасти потому, что финансировала исследования, инициируемые самими исследователями, а не только технологии, направленные на конкретные миссии. ИИ может ускорить открытия, но он также может вознаграждать краткосрочные показатели, автоматизированные публикации и проекты, модные с политической точки зрения. Поэтому серьезная политика в области науки и ИИ должна защищать разнообразие методов, институтов и исследовательских вопросов. Она должна финансировать проверку результатов так же щедро, как и их генерацию, поддерживать университеты даже во время их реформирования и обеспечивать, чтобы инфраструктура данных была достаточно открытой для независимых исследователей, а не закрытой внутри нескольких национальных или корпоративных платформ.
Фраза ИИ для науки может звучать абстрактно, но требования к инфраструктуре конкретны. Научные фундаментальные модели нуждаются в надежных наборах данных, инструментах, способных потоково обеспечивать пригодные для использования измерения, доступе к вычислительным ресурсам, экспертах в соответствующих областях и методах оценки, которые выявляют ложные открытия до того, как они станут опубликованными утверждениями. Модель для материаловедения не полезна просто потому, что она предсказывает кандидатов. Она становится полезной, когда лаборатории могут синтезировать этих кандидатов, инструменты могут их тестировать, а независимые команды могут воспроизвести результаты. Таким образом, акцент Белого дома на проверке не является декоративным. Это та часть, которая определяет, станет ли ускорение знаниями или шумом.
План также ставит вопросы о том, кто получит доступ к новой инфраструктуре. Если федеральные системы ИИ для науки будут строиться в основном вокруг национальных лабораторий и элитных университетов, это может увеличить разрыв между хорошо финансируемыми учреждениями и всеми остальными. Если же они будут создаваться с использованием общих наборов данных, кредитов на облачные ресурсы, стипендий и региональных исследовательских центров, это может расширить участие. Язык доклада о поддержке отдельных ученых указывает на более распределенную модель, но механика бюджета будет иметь значение. Ученому без сотрудников по грантам, специалистов по вычислениям или институциональной поддержки все равно нужен практический путь в систему.
Под научным языком существует измерение национальной безопасности. Открытия, обеспечиваемые ИИ, влияют на фармацевтику, хранение энергии, полупроводники, аэрокосмическую отрасль, производство, моделирование климата и технологии, смежные с обороной. О беспокойстве Вашингтона речь идет не только о том, что американские ученые публикуют результаты быстрее. Дело в том, что страны, способные объединять модели, вычислительные мощности, лаборатории и промышленное внедрение, могут превращать открытия в стратегическое преимущество. Именно поэтому в отчете связывают политику в области исследований с национальными возможностями. Та же модель, которая предлагает лучший катализатор или материал для батареи, может повлиять на цепочки поставок, промышленную конкурентоспособность и военную готовность.
Проблема заключается в том, чтобы избежать узкого менталитета «гонки за скорым внедрением». У науки есть свои собственные механизмы неудач. Модели могут переобучаться на исторических данных, выдумывать механизмы, воспроизводить предвзятую литературу, игнорировать отрицательные результаты или оптимизировать измеримые показатели, которые не применимы в реальном мире. Автономные лаборатории могут проводить множество экспериментов, но они также могут быстро расходовать ресурсы, если стратегия поиска ошибочна. Государственная программа, которая ценит скорость без эпистемической дисциплины, может множить слабые утверждения. Вот почему рецензирование, повторяемость и экспертиза в своей области остаются центральными даже в исследовательской среде с использованием ИИ.
Права на данные будут еще одним практическим барьером. Научные данные часто поступают из работ, финансируемых за счет федеральных средств, частной промышленности, больниц, национальных лабораторий, университетов и международных научных сотрудничеств. Часть этих данных является конфиденциальной, запатентованной, регулируется экспортными ограничениями или связана с участниками исследований. Программы ИИ для науки не могут просто объединять все данные в одну модель без соответствующего управления. Им понадобятся трасты данных, системы контроля доступа, меры защиты конфиденциальности, стандартные лицензии и стимулы для исследователей делиться как положительными, так и отрицательными результатами. Качество моделей будет зависеть от того, насколько эффективно работают эти институциональные механизмы.
Распределение вычислительных ресурсов также будет иметь политическую окраску. Передовые обучающие запуски и крупные научные симуляции дорогостоящие, а общественные ресурсы ограничены. Если ИИ для науки станет национальной задачей, агентствам придется решать, какие области получить приоритет, какие проекты получат доступ к национальной вычислительной мощности и сколько мощности останется доступной для небольших исследовательских работ. Эти решения будут формировать направление исследований. Политика, которая заявляет о ускорении открытий, всё равно может ограничить их, если доступ будет сосредоточен вокруг небольшого набора предпочитаемых федеральных областей.
Автономное видение лаборатории, описанное в отчёте, также вызывает вопросы безопасности и ответственности. Лаборатория, использующая робототехнику и модели для планирования экспериментов, может работать быстрее, но химические, биологические, энергетические и материаловедческие работы могут представлять физическую опасность. Контроль со стороны человека не может сводиться к окончательному утверждению после того, как автоматизированная система уже спланировала рискованную последовательность. Ограничения по безопасности, журналы аудита, аварийные остановки и наблюдательные советы должны быть встроены в рабочий процесс лаборатории. Искусственный интеллект может предлагать эксперименты, но учреждения остаются ответственными за то, что эти эксперименты делают в физическом мире.
Существует также проблема системы публикации. Если инструменты ИИ помогают генерировать гипотезы, проводить симуляции, составлять рукописи и проверять результаты, журналам понадобятся более четкие стандарты раскрытия информации. Рецензентам может потребоваться доступ к коду, запросам, версиям моделей, наборам данных и автоматизированным журналам лаборатории. Это большая нагрузка по сравнению с простым чтением статьи. Положительным моментом является то, что исследовательские артефакты в машиночитаемом формате могут облегчить воспроизведение исследований. Отрицательная сторона заключается в том, что журналы и рецензенты с ограниченными ресурсами могут испытывать трудности с проверкой все более сложной работы, выполненной с помощью ИИ, без новой инфраструктуры.
Рамки, предлагаемые администрацией, также подвергнутся партийной проверке. Федеральная научная политика редко бывает свободной от политических приоритетов, и значительное перераспределение финансирования исследований в сторону ИИ создаст победителей и проигравших. Сторонники будут утверждать, что Соединенным Штатам необходима скорость и сосредоточенность, чтобы конкурировать. Критики зададут вопрос, ослабляет ли план университетские исследования, благоприятствует ли он политически связанным отраслям или преувеличивает возможности ИИ. Доверие к повестке «Золотого века» будет зависеть от прозрачных критериев, экспертной оценки там, где это уместно, и видимых результатов, которые выдерживают независимую проверку.
План также может изменить государственно-частное партнерство. Лаборатории искусственного интеллекта и облачные компании будут заинтересованы в федеральных научно-исследовательских заказчиках, сотрудничестве с национальными лабораториями и доступе к ценным научным данным. Правительство будет стремиться к скорости, экспертности и инфраструктуре, которую оно не может легко создать самостоятельно. Такая сделка может сработать, но ей нужны гарантии. Государственные исследования не должны превращаться в закрытый канал распространения проприетарных систем, а частные партнеры не должны получать привилегированный доступ к государственным данным без явной общественной пользы. Условия контрактов, права на данные и правила публикации будут иметь такое же значение, как и технические амбиции.
Измерить успех будет сложно. Больше гипотез, сгенерированных ИИ, больше автоматизированных экспериментов или больше опубликованных статей недостаточно. Серьезная программа должна отслеживать проверенные открытия, воспроизведенные результаты, время, сэкономленное в конкретных исследовательских рабочих процессах, новые выпущенные наборы данных, инструменты, принятые внешними учеными, и то, получили ли более мелкие учреждения доступ к возможностям, которых у них не было раньше. Без этих показателей язык Золотого века может превратиться в маркетинговый ход для грантов, которые и так бы были профинансированы. Наука с ИИ нуждается в доказательствах ускорения и доказательствах надежности.
Отчет также оказывает давление на агентства, заставляя их модернизировать собственную техническую инфраструктуру. Многие федеральные исследовательские системы по-прежнему зависят от устаревших баз данных, разрозненных порталов грантов, несогласованной метаданных и медленных процедур закупок. Науке с искусственным интеллектом сложно функционировать на административных системах, которые не могут обмениваться чистыми данными или поддерживать воспроизводимые рабочие процессы. Прежде чем автономные лаборатории и научные базовые модели станут обычным явлением, агентствам могут потребоваться менее привлекательные обновления: стандарты данных, защищенные API, системы идентификации, политики доступа к облаку и персонал, способный поддерживать совместное программное обеспечение на протяжении многих лет.
Задача общественной коммуникации будет значительной. Национальная инициатива в области ИИ в науке может звучать как обещание, что машины будут открывать лекарства и материалы по команде. Более честное сообщение заключается в том, что ИИ может сократить часть научного цикла, одновременно делая проверку результатов более важной. Политические лидеры захотят видеть заметные прорывы, но научное сообщество будет оценивать программу по тому, улучшает ли она методы, общую инфраструктуру и воспроизводимость. Самая сильная версия отчета — это не чудо-машина. Это более дисциплинированная исследовательская система с лучшими инструментами.
Это различие важно, потому что научная легитимность заслуживается медленно и легко теряется. Если первый поток финансирования ИИ для науки приведет к преувеличенным объявлениям, нереплицируемым результатам или инструментам, доступным только для нескольких избранных учреждений, реакция будет суровой. Если же он предоставит общие наборы данных, надежные системы верификации и открытия, которые могут подтвердить независимые команды, политика сможет пережить администрацию, которая ее запустила. Белый дом представил ИИ как способ обновления американской науки; это обновление будет оцениваться по культуре доказательств, которую оно создаст.
Федеральным агентствам также придется решить, какая часть стека искусственного интеллекта для науки должна быть общедоступной. Часть передовых возможностей находится в частных лабораториях и у облачных компаний. Они могут предоставлять модели, вычислительные ресурсы, инструменты и скорость развертывания. Но научная политика не может полностью опираться на закрытые системы, которые исследователи не могут исследовать, архивировать или воспроизводить. Научные исследования, финансируемые государством, требуют долговременного доступа, прав на данные, прозрачности моделей там, где это возможно, и условий закупок, которые сохраняют научную независимость. Правительству может потребоваться смешанный подход: коммерческие возможности там, где это полезно, открытые модели там, где это необходимо, и государственная инфраструктура для самой чувствительной или фундаментальной работы.
Университеты будут воспринимать этот отчет как одновременно возможность и угрозу. Они могут получить новое финансирование для лабораторий, ориентированных на ИИ, научных наборов данных и междисциплинарного обучения. Они также могут потерять влияние, если федеральная политика сместится в сторону стипендий, миссий и прямой поддержки исследователей за пределами традиционных грантовых структур. Основной вопрос заключается в том, сможет ли существующая университетская система адаптироваться достаточно быстро. Многие учреждения до сих пор разделяют факультеты, инфраструктуру данных, офисы по соблюдению норм и администрацию грантов таким образом, что междисциплинарная работа на основе ИИ идет медленно. Федеральное правительство может стимулировать изменения, но университетам также придется перестраивать систему стимулов внутри лабораторий и систем кафедральных должностей.
Отправной точкой отчета служит послевоенное видение Ванневера Буша, что является показательным, поскольку это раннее соглашение создало десятилетия государственных инвестиций в фундаментальные исследования. Переформулирование его в контексте ИИ может быть историческим, но только если новая стратегия сохранит главный урок предыдущей: фундаментальная наука часто приносит плоды способами, которые политики не могут предсказать в самом начале. ИИ может сделать открытие более целенаправленным, но чрезмерная ориентация исследований на текущие национальные приоритеты может вытеснить исследования, движимые любопытством. Здоровая научная система нуждается и в миссиях, и в исследованиях с открытым результатом, потому что следующий преобразующий инструмент может возникнуть из вопроса, который пока не выглядит коммерчески или стратегически актуальным.
Последствия для труда также реальны. Исследования с использованием ИИ изменят то, что делают аспиранты, техники, постдоки и ведущие исследователи каждый день. Некоторые рутинные операции по обзору литературы, программированию, моделированию и планированию экспериментов могут выполняться быстрее. Но исследователям также понадобятся новые навыки в области курирования данных, оценки моделей, контроля за автоматизацией и интерпретации гипотез, созданных машинами. Учебные программы, рассматривающие ИИ как простое программное дополнение, будут недостаточны. Научным работникам необходимо будет понимать, когда можно доверять модели, когда её следует оспаривать и как разрабатывать эксперименты, которые выявляют её ошибки.
Доклад Белого дома лучше воспринимать как стартовый сигнал, а не как план действий. В нем указана правильная линия разлома: ИИ достаточно мощен, чтобы перестроить науку, но только если страна создаст институты, способные тестировать, доверять и распространять полученные знания. Следующее испытание будет заключаться в планах действий агентств, бюджетах, правилах предоставления грантов и деталях закупок. ИИ может изменить скорость открытий. Будет ли он повышать надежность и общественную ценность открытий, зависит от менее привлекательной работы по стандартам, репликации, правам на данные и управлению.
Темы: Белый дом, ИИ для науки, федеральные исследования, Миссия «Генезис»