Исследования
План биорезильентности DeepMind показывает, почему ИИ в области биологии нуждается в большем, чем просто политика безопасности
Google DeepMind изложил подход биоустойчивости для исследований в области биологии с использованием ИИ, утверждая, что научный потенциал и риск злоупотреблений необходимо управлять через возможности, доступ и реальные меры безопасности.
Майкл Г ·
Google DeepMind изложила подход к биорезистентности по мере того, как системы ИИ становятся более полезными в биологических исследованиях. В своем заявлении от 16 июля она утверждает, что достижения в таких областях, как структура белка, геномика и разработка лекарств, могут улучшить научную работу, одновременно требуя мер предосторожности в отношении способов оценки и доступа к мощным биологическим возможностям.
Важный момент заключается в том, что биологический риск не существует только в модели. Он проявляется, когда модель соединена с экспериментальными знаниями, лабораторным оборудованием, услугами по синтезу и человеческим намерением. Политика, которая спрашивает только, может ли модель ответить на чувствительный вопрос, упускает цепочку между информацией и действием. Серьезная программа безопасности должна учитывать пользователей, инструменты, поставщиков и мониторинг вокруг этой цепочки.
Это не делает широкий научный доступ ошибкой. Исследователи используют вычислительные инструменты для понимания заболеваний, определения соединений и проектирования экспериментов, которые в противном случае заняли бы гораздо больше времени. Задача состоит в том, чтобы создать поэтапные меры контроля, которые не делают безопасную работу невозможной, при этом замедляя или обнаруживая запросы, которые объединяют чувствительные биологические данные с правдоподобным путем к злоупотреблению.
Формулировка DeepMind важна, потому что она связывает безопасность с научной практикой, а не представляет её как отдельный этап соблюдения норм. Оценка требует экспертов в соответствующей области. Правила доступа должны учитывать различных пользователей и контексты. Реагирование на инциденты должно быть подготовлено до того, как тревожная способность станет доступна в публичном продукте. Это трудные операционные обязательства, а не просто абзац в карточке модели.
Наиболее ясной мерой биоустойчивости будет то, смогут ли лаборатории показать, что их работа остается полезной при соблюдении мер безопасности. Если правила управления понятны, соразмерны и протестированы вместе с исследователями, они могут способствовать доверию к науке с поддержкой ИИ. Если же они расплывчаты или вводятся только после выпуска, они рискуют стать еще одним источником неопределенности для людей, проводящих эксперименты.
Темы: Google DeepMind, биоустойчивость, безопасность ИИ, биология