«Водяной знак — это сигнал, а не доказательство»: OpenAI раскрыла, как будет помечать тексты ChatGPT и Codex по требованиям EU AI Act

Что объявила OpenAI

OpenAI опубликовала описание своего подхода к маркировке текста — прямого ответа на требование EU AI Act, по которому провайдеры генеративного ИИ обязаны делать сгенерированный текст распознаваемым машиночитаемым способом. Компания называет подход поэтапным: он учитывает и требование регулятора, и реальные ограничения самой технологии, а в центре внимания — прозрачность в том, что водяной знак может и чего не может сказать о тексте.

С сегодняшнего дня заказчики API по всему миру могут добровольно включить водяные знаки для текста на отдельных моделях; по умолчанию в API эта функция остаётся выключенной.

В течение ближайших недель невидимая метка будет добавляться к подходящему текстовому выводу ChatGPT и Codex на территории Европейского союза.

Одновременно OpenAI открыла приём заявок на доступ к детектору текстовых водяных знаков; доступ сначала получат только одобренные исследователи и экспертные организации, которые помогут оценить и улучшить технологию.

Всё перечисленное касается только текста: инструменты проверки изображений и аудио — веб-инструмент openai.com/verify и Content Provenance API — остаются общедоступными для организаций, которым нужно понять, сгенерированы ли изображение или аудиофайл одной из систем OpenAI.

Как устроен textGrain

Технология textGrain добавляет к выбору слов моделью невидимый статистический сигнал, а детектор ищет этот сигнал, чтобы оценить, содержит ли фрагмент водяной знак OpenAI.

Более подробное описание работы textGrain приведено в техническом отчёте компании, который будет дополнен в ближайшие недели; сам метод OpenAI планирует открыть, чтобы другие могли строить на нём свои решения.

По собственным оценкам OpenAI, textGrain показал результат не хуже или лучше других протестированных подходов, включая SynthID для текста. При этом компания оговаривается: сильные показатели в идеальных условиях не гарантируют надёжного обнаружения в повседневном использовании.

Где метка слабеет: цифры

Детекторы ошибаются двумя способами: находят знак там, где его нет — ложное срабатывание, — или пропускают имеющийся знак.

При целевом уровне ложных срабатываний в 1 % детектор находил метку примерно в 80 % фрагментов длиной 200 токенов против примерно 95 % для фрагментов в 400 токенов — на таком содержании, как психология. Для математики, где выбор слов менее свободен, показатели были существенно ниже.

Редактирование ослабляет знак: в оценке на фрагментах в 400 токенов замена 10 % слов синонимами снижала обнаружение примерно с 92 % до 66 %, а замена 25 % слов — до 17 %.

Именно эти ограничения, по объяснению компании, стали причиной того, что доступ к детектору на старте выдан только одобренным исследователям и экспертным организациям.

Что водяной знак не говорит

OpenAI отдельно перечисляет, какие выводы из срабатывания детектора делать нельзя.

Метка не измеряет вклад человека: она может указывать, что система OpenAI сгенерировала или обработала часть фрагмента, но не то, сколько в нём человеческого суждения, редактуры или творчества. Она не устанавливает владение или ответственность, не определяет, было ли использование законным и требовалось ли раскрытие.

Метка не идентифицирует пользователя: она не связывает с текстом человека, организацию, аккаунт, промпт или беседу. Она и не подтверждает достоверность — не говорит, правдив ли фрагмент, вводит ли в заблуждение и подан ли в верном контексте.

Наконец, отсутствие найденного знака не доказывает человеческое авторство: текст мог быть слишком коротким, отредактированным или переведённым, мог относиться к неподдерживаемой модели, появиться до внедрения маркировки или быть созданным инструментами другой компании.

Влияние на качество вывода

OpenAI приводит таблицу бенчмарков, которыми оценивает Astra — свою последнюю фронтирную модель: по её словам, значимых различий между текстом с водяным знаком и без него нет.

В таблице Artificial Analysis Intelligence Index — 49,57 пункта без знака против 49,76 с ним; AutomationBench — 34,09 % против 34,86 %; DeepSWE v1.1 — 72,80 % против 71,68 %; Terminal-Bench 4.0 — 53,90 % против 56,06 %; Terminal-Bench Science 0.1 — 56,90 % против 60,00 %; BrowseComp — 87,92 % против 87,35 %; HealthBench Professional — 64,27 % против 64,60 %; GPQA Diamond — 94,44 % против 93,94 %.

Что дальше

В ближайшие недели OpenAI внедрит маркировку текста для подходящих пользователей ChatGPT и Codex на всех тарифах, но только в ЕС: глобальным значением по умолчанию при запуске она не станет — региональный подход даёт компании возможность учиться на реальном использовании и обратной связи.

В API водяные знаки остаются добровольными для отдельных моделей, чтобы заказчики сами решали, как маркировка соотносится с их обязательствами по прозрачности; параллельно OpenAI работает с облачными партнёрами, чтобы включить функцию для выводов моделей OpenAI, к которым обращаются через их сервисы.

Одобренные исследователи и экспертные организации могут подать заявку на доступ к детектору с сегодняшнего дня; в соответствии с Кодексом практики ЕС о прозрачности контента, созданного ИИ, доступ сначала выдаётся в индивидуальном порядке для оценки и улучшения технологии. Инструмент сообщает лишь о наличии знака OpenAI, не идентифицируя пользователя и не раскрывая его промпты и беседы.

Маркировка текста — часть более широкого подхода к происхождению контента: OpenAI добавляет Content Credentials к поддерживаемым изображениям, соответствует C2PA, встраивает невидимые водяные знаки SynthID в поддерживаемые изображения и аудио и предоставляет проверку через openai.com/verify и Content Provenance API. Компания объясняет, что переносить провенанс на текст сложнее всего, потому что текст легко переписать, перевести или отредактировать, и обещает пересматривать подход по мере развития технологии, стандартов и доказательств.