Политика
ЕС назначает ChatGPT очень большой поисковой системой в рамках Закона о цифровых услугах
Европейская комиссия отнесла ChatGPT к самому строгому уровню в рамках Закона о цифровых услугах как очень крупную онлайн-поисковую систему. У OpenAI теперь есть четыре месяца, чтобы оценить системные риски, пройти надзор и выполнить расширенные обязанности по прозрачности.
Майкл С ·
The Европейская комиссия назначила ChatGPT очень большим онлайн-поисковым сервисом в соответствии с Законом о цифровых услугах, поместив потребительский сервис OpenAI в высшую категорию надзора по этому закону. Комиссия отдельно признала Reddit и Roblox очень крупными онлайн-платформами. Каждое из этих сервисов сообщило о как минимум 45 миллионах средних ежемесячных пользователей в Европейском союзе, что является установленным законом порогом для увеличенных обязательств. Классификация является важным ответом на вопрос, которого регуляторы избегали: когда чат-бот извлекает и синтезирует информацию для массовой аудитории, он может регулироваться как часть поисковой экосистемы, а не как обычное программное обеспечение.
OpenAI имеет четыре месяца с момента официального уведомления для выполнения дополнительных обязанностей. Комиссия заявляет, что эти обязанности включают выявление и снижение системных рисков, связанных с незаконным контентом, вредом для несовершеннолетних, физическим и психическим благополучием, основными правами, выборами и общественной безопасностью. ChatGPT также столкнется с более строгими требованиями к прозрачности, аудиту и доступу к данным. Это обозначение не утверждает, что сервис нарушил закон. Оно признает, что масштаб и функция продукта создают последствия, требующие более строгого процесса управления.
Назвать ChatGPT поисковой системой юридически важно, потому что продукт делает больше, чем просто размещает пользовательские публикации. Он отвечает на вопросы, сочетая знания модели, веб-поиск и сгенерированный язык. Пользователь может никогда не увидеть исходный процесс ранжирования или полный набор источников, которые учитывались. Следовательно, сервис может формировать доступ к информации способами, напоминающими поиск, при этом добавляя новый уровень синтеза. Рамки DSA предоставляют регуляторам возможность изучить этот уровень, не дожидаясь принятия специального закона о чат-ботах.
Классификация также отвергает узкое понимание генеративного ИИ как частного общения между пользователем и моделью. На масштабе ChatGPT ответы могут влиять на общественное понимание, коммерческую видимость и политический дискурс. Уверенная ошибка относительно выборов, лечения или юридического права может распространяться через скриншоты и вспомогательные инструменты, даже если она возникла в одной сессии. Анализ системных рисков требует от поставщика взглянуть за пределы одного ответа и изучить повторяющиеся паттерны, распределение и предсказуемое злоупотребление сервисом.
DSA превращает заявления о безопасности в задокументированные обязательства
Очень крупные сервисы должны регулярно проводить оценку рисков и применять адекватные меры по их снижению. Для ChatGPT это должно означать наличие доказательств того, как компания выявляет опасные режимы отказа, тестирует изменения, отслеживает злоупотребления и измеряет эффективность мер защиты. Закон не требует, чтобы регулятор диктовал каждый ответ модели. Он требует, чтобы поставщик показал, что изучил риски, возникающие из проектных решений, и что меры по их снижению — это не просто заявление о политике.
Независимый аудит будет затруднителен, поскольку пограничная модель не является статичной. OpenAI может изменять подсказки, системы поиска, классификаторы безопасности и версии модели без выпуска нового потребительского продукта. Аудит, проведённый по одной конфигурации, может быстро устареть. Регуляторам и аудиторам потребуются записи о версиях, доступ к репрезентативным тестам и метод для определения того, когда существенное изменение требует повторного рассмотрения. Полезным объектом надзора является операционная система вокруг ChatGPT, а не только веса одной модели.
Доступ исследователей к данным будет еще одним испытанием. DSA содержит механизмы, предназначенные для поддержки проверенных исследований системных рисков, но генеративные системы содержат конфиденциальные пользовательские разговоры и информацию о безопасности. OpenAI будет справедливо утверждать, что неограниченное раскрытие может подвергнуть риску конфиденциальность или способствовать атакам. Регуляторам придется создать защищенные пути, позволяющие изучать агрегированное поведение, рекомендации и меры контроля рисков, не превращая пользовательские данные или уязвимости модели в общедоступные записи.
Это обозначение может требовать большей ясности в отношении видимости источников. Если ChatGPT рассматривать как сервис поиска, издатели и пользователи будут спрашивать, как выбираются, цитируются и исключаются источники. DSA не является законом об авторском праве и не гарантирует перенаправленный трафик. Оно действительно создает давление на прозрачность в отношении систем ранжирования и рекомендаций. Для сгенерированного ответа эквивалентные вопросы включают: какие результаты поиска повлияли на ответ, как коммерческие отношения влияют на представление информации и когда сервис выбирает ответить без видимых источников.
Апелляции пользователей также принимают другую форму. Платформы традиционно модерируют аккаунты или удаляют публикации. Чат-бот может отклонить запрос, ограничить аккаунт, скрыть источник или сгенерировать вредоносный ответ. Каждое действие поднимает различные вопросы надлежащей процедуры. OpenAI потребуется объяснить, какие решения попадают под механизмы подачи жалоб по DSA и как пользователь может их оспорить. Простая кнопка для обратной связи будет недостаточной, если сервис принимает последствиявые решения о доступе или видимости.
ChatGPT, Reddit и Roblox представляют разные профили рисков
Комиссия объявила о трех назначениях одновременно, потому что они достигли одного и того же порога аудитории, а не потому, что их системы взаимозаменяемы. Reddit организует пользовательские сообщества и сильно зависит от модерации волонтёров. Roblox сочетает социальное взаимодействие, платежи и пользовательский контент, используемый многими детьми. ChatGPT генерирует ответы и всё чаще действует через инструменты. Значение DSA будет зависеть от того, адаптирует ли надзор общие принципы к этим различным проектам, вместо того чтобы применять один контрольный список ко всем сервисам.
Для ChatGPT основные вопросы связаны с поведением модели и её возможностями поиска. Для Reddit управление может сосредоточиться больше на незаконном контенте, системах рекомендаций и отношениях между компанией и модераторами. Для Roblox особое внимание, вероятно, будет уделено безопасности детей, коммерческому дизайну и коммуникациям. Комиссия будет контролировать соблюдение требований вместе с национальными органами власти в Ирландии для ChatGPT и Reddit и в Нидерландах для Roblox, что отражает расположение европейских операций этих компаний.
Общее обозначение по-прежнему создаёт полезный ориентир. OpenAI больше не может утверждать, что его интерфейс находится вне регулирования платформ просто потому, что контент создаётся по запросу. И наоборот, регуляторы не могут рассматривать каждую ошибку модели как доказательство нарушения DSA. Юридический вопрос заключается в том, оценила ли компания предсказуемые системные риски, приняла ли соответствующие меры контроля, отреагировала ли на доказательства и выполнила ли обязанности по прозрачности. Этот стандарт требует многого, не притворяясь, что нулевая вероятность ошибок возможна.
Комиссия может налагать значительные штрафы за несоблюдение требований, но принудительное исполнение должно начинаться с конкретных запросов информации и проверяемых ожиданий. Широкий запрос сделать ChatGPT безопасным приведет к созданию документов, а не к ответственности. Запрос доказательств относительно тестирования запросов выборов, незначительных мер защиты, указания источников или реагирования на инциденты может показать, работает ли процесс. Техническая способность регулятора будет не менее важна, чем максимальный штраф по закону.
Классификация поиска выйдет за пределы Европы
Маловероятно, что OpenAI будет поддерживать полностью отдельные системы управления для каждой юрисдикции. Оценки рисков DSA, журналы изменений и аудиторские контроли могут стать внутренними стандартами, используемыми в других местах, особенно когда корпоративные клиенты требуют тех же доказательств. Именно такое распространение является одной из причин, почему данное обозначение имеет глобальное значение. Европейское законодательство может влиять на работу продукта, не требуя, чтобы каждая функция была идентична на всех рынках.
Другие поставщики ИИ должны предполагать, что масштаб приведет к аналогичному вниманию. Комиссия заявляет, что продолжит мониторинг услуг, которые соответствуют установленным законом критериям. Конкурент может избежать назначения, пока он мал, но он не может строить регуляторную стратегию, оставаясь ниже 45 миллионов пользователей навсегда. Командам по продукту нужны журналы, записи оценок и процедуры работы с жалобами до того, как они станут обязательными. Установка их задним числом после назначения является более медленной и менее достоверной.
Издатели и группы гражданского общества теперь имеют официальное средство для запроса о том, как ChatGPT влияет на доступ к информации. Это не гарантирует согласия с OpenAI или Комиссия, и DSA не могут решить каждую проблему, связанную с обучающими данными или рыночной властью. Это перемещает дебаты из рамок добровольных встреч в процесс с установленными сроками, документами и надзорными полномочиями. Следующие четыре месяца покажут, как Комиссия превратит обозначение поисковой системы в обязательства, подходящие для сгенерированных ответов.
Реклама и коммерческое размещение потребуют особой прозрачности по мере того, как ChatGPT расширяет монетизацию. Сгенерированный ответ может объединять рекомендации, краткое изложение и действия в одном интерфейсе. Пользователи должны знать, когда оплата влияет на то, что отображается, и повлияло ли спонсируемое содержание на источники, использованные для обоснования ответа. Правила прозрачности DSA служат отправной точкой, но регулирующим органам может потребоваться руководство, адаптированное к разговорным форматам, где реклама не ограничивается привычным блоком рядом с органическими результатами.
Защита несовершеннолетних также сложна, потому что проверка возраста может вступать в конфликт с приватностью. OpenAI нуждается в контролях, соответствующих младшим пользователям, без сбора от всех лишних данных об их личности. Оценка рисков должна учитывать саморазрушительное поведение, сексуальный контент, манипуляции и склонность воспринимать отзывчивую систему как надёжного друга. Меры снижения рисков могут включать настройки по умолчанию, соответствующие возрасту, эскалацию кризисных ситуаций, родительские инструменты и ограничения на убеждающее поведение, но каждую меру следует тестировать на непреднамеренное исключение и ложные срабатывания.
Риск выборов проверит разницу между сгенерированной речью и распределением. У ChatGPT нет обычной социальной ленты, тем не менее он может предоставлять персонализированные объяснения в огромных масштабах и может быть интегрирован в инструменты, которые публикуют контент в других местах. OpenAI должен измерять фактическую достоверность текущей политической информации, указывать, когда извлечение недоступно, и отслеживать скоординированные попытки автоматизации убеждения. Регуляторы должны избегать требования одного официального ответа, настаивая при этом на ясном указании источников и быстром исправлении явно ложных утверждений.
Проверка соблюдения фундаментальных прав должна включать охват языков. Механизм защиты, который хорошо работает на английском, может не справляться с меньшими европейскими языками или диалектами, создавая неравный доступ и риск. OpenAI потребует наборов для оценки, экспертизы и анализа жалоб по всему Союзу, а не просто переведённой страницы политики. Комиссия должна требовать доказательства по языку и сценарию использования, чтобы совокупная эффективность не скрывала слабую защиту для сообществ с меньшими ресурсами для обучения.
Обозначение также может уточнять процесс отчетности о происшествиях. Обновление модели, которое приводит к внезапному увеличению вредоносных ответов, может повлиять на миллионы пользователей до того, как обычные продуктовые метрики это зафиксируют. OpenAI должен определять, какие события вызывают уведомление регулирующих органов, как сохраняются затронутые результаты и когда производится откат изменения. Отчеты должны защищать конфиденциальность пользователей, одновременно предоставляя руководителям достаточно информации, чтобы различать единичные ошибки и системные сбои в дизайне. Зрелый процесс будет рассматривать регрессии модели с той же серьёзностью, что и инциденты, связанные с безопасностью и доступностью.
Наиболее важным последствием является институциональное. ChatGPT стал достаточно крупным, чтобы европейские регуляторы больше не рассматривали его как экспериментальный слой, прикрепленный к вебу. Они рассматривают его как инфраструктуру, через которую миллионы людей ищут и интерпретируют информацию. OpenAI может оспаривать детали этой аналогии, но бремя ответственности сместилось. Теперь компания должна демонстрировать в правовом поле, как система, которая отвечает на уровне поисковой системы, управляет рисками, связанными с влиянием поисковой системы.
Темы: ChatGPT, Европейский Союз, Закон о цифровых услугах, OpenAI, регулирование платформ