Политика
Дорожная карта политики нацелена на меры защиты ИИ от разработки биологического оружия
Новая политика предполагает более строгий контроль за передовыми моделями ИИ с целью снижения рисков их использования для создания биологического оружия. Дорожная карта подчеркивает методы оценки, контроль доступа и координацию между правительством и технологическими компаниями.
Майкл С ·
Комплексная дорожная карта политики, опубликованная на этой неделе, предлагает новые меры защиты, предназначенные для снижения риска того, что передовые модели искусственного интеллекта могут способствовать разработке биологического оружия. По сообщению Axios, этот документ рассматривает конкретную проблему, которая беспокоит экспертов по безопасности и политиков: большие языковые модели и аналогичные системы, обученные на огромных объемах общедоступной информации, могут снижать некоторые информационные и планировочные барьеры, которые исторически защищали чувствительные биологические знания. Дорожная карта не утверждает, что ИИ сам по себе создает биологические угрозы, а скорее рассматривает его как один из факторов среди многих, включая доступ к материалам, специализированную экспертизу, лабораторную инфраструктуру и способность к реализации.
Рамки политики сосредоточены на четырех основных оперативных направлениях. Во-первых, они предусматривают улучшение методов оценки для определения того, когда и каким образом модели могут оказывать помощь в разработке биологического оружия. Во-вторых, предлагаются меры контроля доступа, которые могут ограничивать или отслеживать способ взаимодействия определенных пользователей с чувствительными возможностями модели. В-третьих, устанавливаются протоколы для сообщения о происшествиях в случае выявления вызывающих опасения применений. В-четвертых, подчеркивается важность механизмов координации между государственными учреждениями, технологическими компаниями и международными партнерами для обмена информацией об угрозах и передовым опытом. Каждое из направлений остается предметом споров среди экспертов, поскольку оперативные границы неясны: определение того, что считается вызывающими опасения возможностями, какие ограничения доступа эффективны, и как обмениваться конфиденциальной информацией без ущерба для безопасности или экономической конкурентоспособности. Отчёт Axios документирует отчётность, лежащую в основе этой записи.
Инициатива отражает растущее понимание того, что биологическая безопасность в эпоху развития передового искусственного интеллекта требует институциональных рамок, которых не существовало, когда были установлены предыдущие политики биологической безопасности. Конвенция о биологическом оружии, впервые открытая для подписания в 1972 году и в настоящее время обязательная для более чем 180 государств, запрещает разработку и накопление биологического и токсинового оружия, но была составлена до появления машинного обучения. Кон Всемирная организация здравоохранения выпустила рекомендации по биобезопасности и биозащите, но эти рамки аналогично предшествуют современным возможностям ИИ. Сейчас перед законодателями стоит вопрос о том, как адаптировать международные соглашения и национальные регулирования для решения рисков, которые одновременно охватывают развитие технологий, научные исследования, общественное здоровье и национальную безопасность.
Оценка и доступ
Компонент оценки дорожной карты опирается на существующие модели из исследований по безопасности ИИ, включая Рамочную программу управления рисками ИИ NIST, которая предоставляет методы для выявления и оценки рисков в внедренных ИИ-системах. Оценщики будут проверять, могут ли модели быть настроены на предоставление информации о синтезе патогенов, методах культивирования, способах вооружения или стратегиях распространения. Основная сложность заключается в различении информации двойного назначения, которая имеет легитимное научное и общественное здравоохранение применение, и информации, основная полезность которой заключается в разработке оружия. Исследователю-микробиологу, изучающему механизмы заболеваний, может потребоваться доступ к аналогичной информации, что и человеку, разрабатывающему биологическое оружие. Политическая рамка не решает это различие, но признает его как центральную техническую и этическую проблему, требующую постоянного сотрудничества между исследователями ИИ, биологами и экспертами по безопасности.
Предложения по контролю доступа различаются по охвату. Некоторые предлагают ограничивать доступ к модели, требуя подтверждения личности и институциональной принадлежности для пользователей, задающих чувствительные вопросы. Другие предлагают ограничивать информацию, которую модели возвращают при прямых запросах о биологическом оружии. Еще одни рекомендуют отслеживать подозрительные модели использования без полного блокирования доступа. Каждый подход имеет свои компромиссы между безопасностью и открытостью. Ограничительный доступ может замедлить легитимные научные исследования или создать барьеры для исследователей в странах с ограниченными институциональными ресурсами. Более свободный доступ сохраняет научную открытость, но может предоставлять помощь лицам с вредоносными намерениями. Дорожная карта подчеркивает, что решения о доступе должны учитывать как оценку безопасности, так и более широкие политические цели, включая научный прогресс и равный доступ к технологиям. Операционный компромисс также отражается в Конвенция о биологическом оружии.
Принципы ИИ ОЭСР, принятые странами-членами для руководства ответственным развитием ИИ, подчеркивают прозрачность и вовлечение заинтересованных сторон в управление ИИ. Дорожная карта соответствует этому акценту, предлагая, чтобы политики доступа разрабатывались через диалог между технологическими компаниями, государственными учреждениями и научным сообществом, а не через односторонние корпоративные или нормативные решения. Это требование координации отражает признание того, что ни один отдельный участник не обладает полной информацией о рисках или решениях. Компании лучше всего понимают свои системы, но не обладают полной информацией о угрозах безопасности. Государственные учреждения понимают картину угроз, но могут не иметь технической экспертизы в области ИИ. Научное сообщество понимает последствия двойного использования, но действует независимо от процессов формирования политики. Построение институциональных связей между этими группами остается незавершенным и оспариваемым. Для более широкого контекста, Рамочная система управления рисками ИИ NIST излагает соответствующий стандарт или учреждение.
Международная координация и подотчетность
Самый амбициозный компонент дорожной карты касается международной координации. Биологическая безопасность давно рассматривается как требующая глобального управления, потому что патогены не признают границ и потому что исследования двойного назначения проводятся во многих странах. В рамках предложено, чтобы страны создавали каналы для обмена информацией о вызывающих озабоченность возможностях моделей ИИ без раскрытия как конфиденциальных данных по безопасности, так и закрытых деталей проектирования ИИ-систем. Механика такого обмена информацией в значительной степени остается теоретической. Принципы ИИ ОЭСР помогает разместить проблему в более широком контексте политики и инженерии.
Рекомендация ЮНЕСКО по этике ИИ, принятая государствами-членами в 2021 году, призывает к созданию механизмов управления, отражающих такие ценности, как права человека, охрана окружающей среды и социальная ответственность. План действий ссылается на эти принципы, одновременно признавая, что их внедрение в контексте биологической безопасности требует балансирования между конкурирующими ценностями: безопасность против научной открытости, национальные интересы против международного сотрудничества и предотвращение рисков против предосторожности против чрезмерного вмешательства. Рамки подчеркивают, что меры защиты должны разрабатываться с учетом прозрачности и общественного доверия, а не как непрозрачные меры безопасности, применяемые без объяснений и ответственности.
Механизмы обеспечения соблюдения остаются недостаточно развиты в дорожной карте. Кто контролирует соблюдение требований к доступу и отчетности о происшествиях? Какие санкции применяются, если компании не внедряют меры безопасности или скрывают вызывающие беспокойство использования? Как решаются международные споры, когда страны расходятся во мнениях о том, представляют ли определенные возможности ИИ риск биологического оружия? Дорожная карта указывает на эти вопросы как требующие дальнейшей работы, а не предоставляет окончательные ответы. Это отражает существующую реальную неопределенность: структуры управления биологической безопасностью, предназначенные для биологических исследований и инспекций оружия, существуют, но аналогичные структуры для управления ИИ находятся на ранней стадии развития и подвергаются спорам.
Основная предпосылка дорожной карты остаётся взвешенной и основанной на доказательствах: продвинутые модели ИИ могут снизить некоторые барьеры для разработки биологического оружия, но фактический биологический ущерб зависит от множества факторов, выходящих за рамки возможностей модели. Доступ к патогенам, специализированное лабораторное оборудование, обучение микробиологии и молекулярной биологии, а также постоянные усилия по вооружению остаются необходимыми условиями для разработки биологического оружия. Риск заключается не в том, что модели ИИ создают биологические угрозы из ничего, а в том, что они могут снизить порог для субъектов, уже обладающих сочетанием мотивации, знаний и ресурсов. Политическая структура направлена на повышение этого порога через меры защиты, которые сохраняют полезные приложения ИИ, одновременно снижая конкретные риски для биобезопасности. Вопрос о том, достижима ли такая калибровка, остаётся открытым и на него в конечном итоге ответит опыт. Последний пункт можно проверить на соответствие. Рекомендации ЮНЕСКО по этике ИИ.
Темы: искусственный интеллект, биобезопасность, политика, оружие, общественное здоровье