Политика
Текстовые водяные знаки Anthropic превращают закон об ИИ ЕС в тест архитектуры продукта
Anthropic заявляет, что модели, выпущенные после 2 августа, будут ставить водяные знаки на сгенерированный текст и файлы для соблюдения европейских требований по прозрачности, что вызывает практические вопросы о сохранности, обнаружении и значимом раскрытии информации.
Майкл С ·
Anthropic заявляет, что будет добавлять водяной знак к тексту, сгенерированному его моделями, включая Claude, чтобы соответствовать европейским правилам прозрачности. Согласно обновленной странице поддержки, модели, выпущенные после 2 августа, будут автоматически добавлять водяной знак к сгенерированному тексту и файлам, при этом компания использует стандарт C2PA для файлов.
Политика показывает, как регулирование начинает изменять архитектуру ИИ-продуктов, а не только их юридические условия. Кодекс прозрачности Закона ЕС о ИИ требует, чтобы системы отмечали материалы, созданные или отредактированные ИИ, в машиночитаемой форме. Водяной знак, который следует пути копирования и вставки, является попыткой сделать это обязательство сохраняющимся при обычном использовании.
Сложные вопросы касаются вопросов реализации. Anthropic утверждает, что метка может сохраняться после некоторого редактирования, но порог, при котором её можно удалить, остаётся неясным. Водяные знаки особенно ценны, когда независимая система может надёжно их обнаруживать, пользователи понимают их ограничения, и обычные изменения форматирования не приводят к исчезновению сигнала.
Anthropic заявляет, что мера применяется ко всем продуктам Claude и что компания распространит поддержку на более старые модели. Компания присоединяется к другим участникам рынка, которые обязались соблюдать европейский кодекс. Это масштабный переход от добровольных заявлений о происхождении контента к системам, которые могут проверять платформы и регуляторы.
Водяной знак не может самостоятельно разрешить все споры о авторстве или предотвратить обман. Тем не менее, он может предоставить доказательство, которого ранее не хватало. Надежность этого подхода будет зависеть от того, достаточно ли долговечно это доказательство, чтобы помочь издателю, платформе или читателю принять реальное решение.
Темы: Anthropic, Закон ЕС об ИИ, водяные знаки