Политика
Канада: правила ChatGPT нарушили закон о конфиденциальности — знаковое событие для регулирования ИИ
Совместное расследование федеральных и провинциальных комиссаров по вопросам конфиденциальности Канады показало, что OpenAI собирал и использовал персональные данные без значимого согласия, что создает прецедент, способный изменить практику работы с данными ИИ во всем мире.
Майкл С ·
Офис комиссара по вопросам конфиденциальности Канады (OPC) совместно с комиссарами по вопросам конфиденциальности Квебека, Британской Колумбии и Альберты завершил совместное расследование деятельности OpenAI в отношении ChatGPT и установил, что компания нарушила законы Канады о конфиденциальности. Расследование, начавшееся в 2023 году после подачи жалобы, показало, что OpenAI собирал, использовал и раскрывал личную информацию без получения осознанного согласия — что является нарушением Закона Канады о защите личной информации и электронных документах (PIPEDA) и аналогичных провинциальных законов.
Решение является самым значительным мероприятием по обеспечению конфиденциальности в отношении крупной AI-компании в Северной Америке на сегодняшний день. Оно не налагает финансовое наказание — механизмы обеспечения соблюдения канадского законодательства о конфиденциальности в основном декларативные и реставративные, а не карательные — но устанавливает юридический прецедент, за которым внимательно следят регулирующие органы в других юрисдикциях. OpenAI оспаривает выводы и сообщил, что не будет добровольно внедрять рекомендованные комиссарами изменения, создавая предпосылки для возможного обращения в суд.
Что выявило расследование
Комиссары обнаружили три основных нарушения. Во-первых, OpenAI не получила действительного согласия на сбор личной информации, используемой для обучения ChatGPT. Аргумент компании о том, что общедоступные данные не требуют согласия, был отклонён — канадское законодательство требует согласия на сбор независимо от того, технически ли данные доступны. Во-вторых, политика конфиденциальности OpenAI оказалась недостаточно чёткой относительно того, как личная информация используется в модельном обучении. В-третьих, компания не обеспечила адекватных механизмов для получения или исправления их личной информации, хранящейся в обучающих наборах данных.
Решение приходит в момент, когда канадское законодательство о конфиденциальности находится на стадии реформирования. Законопроект C-22, предлагаемый как Закон о защите конфиденциальности потребителей, существенно усилит полномочия по обеспечению соблюдения — включая возможность наложения штрафов до 5% от мирового дохода за серьезные нарушения. Если C-22 будет принят в его нынешней форме и будет применяться ретроактивно к нарушениям ChatGPT, OpenAI может столкнуться со штрафом в сотни миллионов долларов. В настоящее время законопроект находится на рассмотрении в Сенате.
Глобальные последствия
Решение Канады имеет значение за пределами её границ, поскольку оно напрямую касается вопроса, с которым сталкиваются регуляторы во всём мире: требуется ли согласие для обучения большой языковой модели на данных, собранных публично? Европейский комитет по защите данных также пытается разобраться с этим вопросом в рамках GDPR. В 2023 году итальянский Garante временно заблокировал ChatGPT по аналогичным причинам. Чёткий ответ канадских комиссаров — да, согласие требуется — предоставляет другим регуляторам правовую основу для ссылок.
Для компаний, занимающихся ИИ, это решение сигнализирует о том, что защита под названием «публично доступные данные» теряет силу в странах с общей правовой системой. Практическое последствие заключается в том, что любая ИИ-компания, использующая для обучения данные, собранные с интернета, сталкивается с потенциальной ответственностью в Канаде, а возможно, и в других юрисдикциях, следующих примеру Канады. Решение не требует от OpenAI удалять свои модели или прекращать деятельность в Канаде — но оно требует от компании внедрить механизм получения согласия на сбор данных, который, если применить его глобально, кардинально изменит способ обучения передовых моделей ИИ.
Темы: OpenAI, Конфиденциальность, Канада, Регулирование ИИ, PIPEDA