Этика
Следующая битва за безопасность ИИ переходит к скринингу ДНК
Лидеры в области ИИ сходятся во мнении по вопросу биобезопасности, который раньше находился за пределами основной дискуссии об ИИ: проверка синтеза генов. По мере того как модели улучшаются в биологическом рассуждении, возникает вопрос, смогут ли меры контроля за заказом ДНК идти в ногу с развитием событий до того, как злоупотребление станет проще.
Майкл С ·
Следующая битва за безопасность ИИ может начаться не в дата-центре. Она может начаться с заказов на ДНК. Vox сообщает, что лидеры, включая Сэм Альтман, Демис Хассабис и Дарио Амодеи поддержали призывы к усилению синтез генов скрининг, поскольку ИИ делает работу по биологическому проектированию более доступной.
Проблема не в том, что полезная биотехнология должна прекратиться. Синтез генов поддерживает исследования вакцин, терапевтических средств, диагностику и фундаментальную науку. Проблема в том, что более дешевый синтез в сочетании с все более способным ИИ может снизить барьер для проектирования или заказа опасных биологических последовательностей.
Почему скрининг ДНК снова в повестке дня
Screening заказы ДНК не является новой идеей, но добровольные системы становятся более хрупкими, когда инструменты вокруг них становятся сильнее. Если модели могут помочь пользователю рассуждать о биологическая функция, изменять последовательности или искать вокруг правил обнаружения, тогда проверка должна стать более последовательной, более проверяемой и труднее обходимой.
Это проблема двойного использования в самой острой форме. Те же системы ИИ, которые могут помочь исследователям выявлять перспективные методы лечения, также могут помочь пользователям ориентироваться в сложной биологической информации. Поэтому политика безопасности должна защищать научный прогресс, одновременно значительно затрудняя злонамеренное или безрассудное использование.
Важность необычной коалиции
Политика примечательна тем, что OpenAI, Google DeepMind, и Anthropic не всегда согласны по стратегии ИИ. Когда их лидеры приходят к согласию по вопросам биобезопасности, это указывает на то, что проблема перешла от спекулятивного риска к практическому управлению.
Обязательный скрининг по-прежнему оставляет трудные вопросы проектирования. Кто поддерживает базы данных угроз? Как обрабатываются ложные срабатывания? Какие записи ведутся? Как охватываются малые лаборатории и международные поставщики? Что происходит, когда опасный заказ разделяется между поставщиками или проходит через юрисдикции с более слабым контролем?
Редкая возможность урегулировать до кризиса
Biosecurity является одной из немногих областей безопасности ИИ, где целью политики является необычно конкретная цель. Правительства могут быть не в состоянии заранее определить все опасные модели поведения, но они могут требовать проведение проверки, ведение записей, проверку клиентов и правила отчетности для синтетическая ДНК providers.
Темы: биобезопасность, ДНК-скрининг, безопасность ИИ, синтез генов