Политика
Великобритания будет использовать данные с украинского поля боя для обучения ИИ-систем, защищающих чувствительные объекты
Британское правительство сотрудничает с украинской лабораторией Искусственного Интеллекта "Мстители", чтобы предоставить частным компаниям доступ к данным с полей боевых действий для разработки систем искусственного интеллекта для защиты военных баз, железных дорог и энергетической инфраструктуры. Это соглашение вызывает вопросы относительно согласия на использование данных, стандартов классификации, воздействия на гражданское население и независимого надзора.
Майкл С ·
Великобритания стремится использовать боевой опыт Украины для разработки искусственного интеллекта, предоставляя частным компаниям доступ к данным с поля боя, собранным во время конфликта с Россией. Согласно отчету The Guardian, Министерство обороны Великобритании заключило партнерство с украинской лабораторией Avengers AI, которое позволит оборонным подрядчикам и технологическим фирмам использовать информацию, полученную в ходе операций, для обучения систем искусственного интеллекта, предназначенных для защиты важной национальной инфраструктуры, включая военные объекты, железнодорожные сети и электростанции. Эта инициатива отражает усиление того, как западные правительства переводят реальные конфликты в технологические возможности, хотя она подняла фундаментальные вопросы о том, как такие данные должны классифицироваться, кто должен давать согласие на их использование и какие меры безопасности предотвращают влияние технологии на гражданское население.
В рамках соглашения частные компании получат структурированный доступ к шаблонам, сигнатурам и тактической информации, полученной из операций украинской армии, без предоставления исходных боевых видеозаписей или идентифицирующей информации о отдельных солдатах или гражданских лицах. Данные будут использоваться для обучения моделей машинного обучения, предназначенных для обнаружения вторжений, прогнозирования уязвимостей инфраструктуры и автоматизации защитных реакций на британских объектах. Представители власти охарактеризовали это партнерство как взаимовыгодное, предполагая, что сотрудничество укрепляет технологический потенциал Украины, одновременно предоставляя Великобритании системы ИИ, основанные на недавнем оперативном опыте, а не на исторических наборах данных или лабораторных симуляциях. По данным отчетов о соглашении, его охват включает как кинетические конфликты, так и киберразведывательные данные. Отчёт The Guardian документирует отчётность, лежащую в основе этой записи.
Заявленная модель управления предусматривает контроль как со стороны Министерства обороны Великобритании, так и со стороны украинских чиновников, при этом решения о закупках принимаются через существующие каналы оборонных контрактов. Частные компании, участвующие в программе, будут работать в рамках систем допуска к секретной информации и контрактных ограничений, ограничивающих использование данных указанными оборонными приложениями. Тем не менее, публичные сведения о независимых механизмах проверки остаются ограниченными. Вопросы о том, будут ли внешние аудиторы оценивать практику обработки данных, будут ли проводиться регулярные проверки рассекречивания и включает ли соглашение положения о прекращении действия, официальными лицами пока не получели окончательных ответов.
Происхождение данных представляет собой особую проблему. Информация с поля боя по своей природе создается в зонах боевых действий, где присутствуют гражданские лица, и извлечение оперативно полезных шаблонов требует обработки, которая может скрыть изначальный контекст. Хотя официальные лица подчеркивали, что данные будут очищены и агрегированы, конкретные методы обеспечения того, чтобы системы ИИ не фиксировали предвзятости, вытекающие из конфликтных ситуаций, или случайно не способствовали принятию решений о целевых объектах, не были публично раскрыты. Британские военные ранее признавали, что автономные системы требуют надежных мер защиты, чтобы предотвратить причинение вреда, однако механизмы этих мер в данном случае остаются непрозрачными. Министерство обороны Великобритании предоставляет полезные технические основы для оценки утверждения.
Согласие и границы классификации
Центральное напряжение в инициативе касается согласия. Вооружённые силы Украины действуют в рамках собственной командной структуры и правовых полномочий, однако данные, которые они генерируют, попадают в многонациональный технологический поток. Хотя Украина формально согласилась на партнёрство, остаётся неясным, консультировались ли отдельные военнослужащие или затронутые гражданские лица по поводу использования данных, полученных в боевых действиях, для обучения ИИ. Великобритания не публиковала документацию, показывающую, как она оценивала, требует ли чувствительность данных более высокой классификации, или проводился ли сбор данных на поле боя с учётом того, что информация будет передаваться международно частным компаниям. Руководство по управлению рисками ИИ NIST рекомендует, чтобы документация о происхождении данных сопровождала наборы данных, используемые в системах с высокой степенью ответственности, стандарт, применение которого в рамках этой программы не было подтверждено. Операционное компромиссное решение также отражается в Стратегия ИИ НАТО.
Решения о классификации определят, какие компании могут получать доступ к данным и на каких условиях. Если информация классифицируется как секретная, доступ остается ограниченным для подрядчиков с допуском и соответствующей инфраструктурой объектов. Если классификация ниже, данные могут более широко распространяться по цепочкам поставок, создавая увеличение количества точек обработки и мест хранения. Правительство Великобритании не публиковало конкретный уровень классификации, ссылаясь на безопасность операций, хотя эта самая непрозрачность создает разрыв между заявленной моделью управления и тем, что можно проверить независимо. Чиновники указали, что программа следует существующим правилам закупок для обороны, однако эти правила были установлены до появления конкретных проблем управления, связанных с системами ИИ, обученными на данных многонациональных боевых действий.
Вопрос о побочных эффектах для гражданского населения выходит за рамки фазы обучения. Системы ИИ, обученные на боевых схемах, даже если они предназначены исключительно для защиты инфраструктуры, могут закладывать тактические предположения, которые отражают условия активного конфликта, а не мирного времени. Если такая система будет развернута для защиты железнодорожной сети, сможет ли она генерировать оповещения на основе шаблонов, напоминающих военные передвижения, но на самом деле отражающих гражданскую активность? Министерство обороны Великобритании не публиковало технических характеристик, описывающих, как системы будут настроены для предотвращения ложных срабатываний, которые могли бы нарушить работу гражданского транспорта или коммунальных служб. Для более широкого контекста, Рамочная система управления рисками ИИ NIST излагает соответствующий стандарт или учреждение.
Закупки и независимый обзор
Процесс закупок для этой инициативы будет осуществляться через стандартные каналы оборонных контрактов, что означает, что компании должны участвовать в конкурентных торгах и соответствовать требованиям безопасности. Однако критерии оценки того, какие компании получают доступ к данным, а какие нет, остаются внутренними для Министерства обороны. Не существует опубликованного требования прозрачности закупок, никакой внешней консультативной комиссии и никакого механизма для широкой общественности, чтобы понять, какие фирмы имеют или имели доступ к набору данных. Это противопоставляется Принципы ИИ ОЭСР рамки, которые подчеркивают прозрачность и вовлечение заинтересованных сторон в управлении ИИ, особенно для систем с значительными общественными последствиями.
Независимый надзор по-прежнему остается самой существенной лакуной в объявленной системе. Правительство Великобритании не создало внешнюю ревизионную комиссию, академическую надзорную группу или парламентский комитет с конкретной ответственностью за мониторинг работы и результатов этой программы. Сравните это с новыми практиками в других странах: некоторые правительства разработали процессы оценки воздействия алгоритмов и требования к аудиту третьими сторонами для систем ИИ, влияющих на общественную безопасность. В отличие от этого, британская инициатива, по-видимому, полагается исключительно на внутренние проверки соблюдения правил Министерством обороны и контрактные обязательства подрядчиков. Официальные лица утверждают, что существующие правила классификации и протоколы безопасности обеспечивают достаточный надзор, однако эти механизмы действуют конфиденциально и не создают публичных отчетов о подотчетности.
Долгосрочная устойчивость самого партнерства в области данных остается неопределенной. Как долго будут храниться и использоваться украинские данные с поля боя? Будет ли информация обновляться новыми оперативными данными по мере продолжения или эволюции конфликта? Что произойдет с натренированными AI-системами, если партнерство будет прекращено или если отношения между Великобританией и Украиной изменятся? Эти вопросы важны, поскольку они определяют, представляет ли программа собой временный ответ на текущие обстоятельства или создание постоянной инфраструктуры для преобразования оперативных данных о конфликте в постоянное развитие технологий в мирное время.
Правительство Великобритании представило эту инициативу как ответственный подход к использованию союзного партнерства для взаимной безопасности. Украинские официальные лица охарактеризовали её как признание их оперативного опыта и средство укрепления их технологической позиции. Тем не менее структура соглашения предусматривает, что значительные решения о использовании данных, обучении моделей ИИ и внедрении систем принимаются министерствами обороны и частными подрядчиками с минимальной внешней прозрачностью. По мере того как системы ИИ будут интегрированы в решения, касающиеся критической инфраструктуры, разрыв между объявленными моделями управления и проверяемым независимым надзором указывает на то, что вопросы ответственности, прозрачности и общественного доверия остаются рассмотренными не в полной мере. Будет ли это партнерство в конечном итоге служить моделью для будущего сотрудничества союзников в области ИИ или предостерегающим примером, частично зависит от того, какие механизмы надзора возникнут на практике и окажутся ли они достаточно надежными, чтобы обеспечить доверие общественности. Последний момент можно проверить на основе Рекомендации ЮНЕСКО по этике ИИ.
Темы: политика в области ИИ, партнерство Великобритании и Украины, оборонная инфраструктура, управление данными, военные технологии