Anthropic внедрила водяной знак для текста, созданного Claude, чтобы соответствовать требованиям EU AI Act, согласно которым синтетический контент должен быть четко помечен машиночитаемым способом. Компания утверждает, что эта технология помечает написанный ИИ текст, не замедляя работу модели и не используя дополнительные токены — это утверждение регуляторы и конкуренты вскоре проверят на практике.

Почему водяной знак имеет значение

Водяной знак интегрирует закрытый ключ и окружающий контекст в процесс выбора слов. Читатели не могут увидеть этот паттерн, но верификатор, знающий ключ, способен его обнаружить. На практике сторонний инструмент сканирует документ и сообщает, был ли он создан Claude.

Регуляторное давление

EU AI Act обязывает поставщиков генеративных систем внедрять обнаруживаемые сигналы в синтетический контент.

Бизнес-компромиссы

Принимая решение о внедрении таких меток, компании балансируют между тремя аспектами:

  • Ограничения отслеживаемости — водяной знак подтверждает, что текст был создан моделью ИИ, но он не может связать результат с конкретным пользователем или аккаунтом. Этот пробел оставляет вопрос ответственности открытым в случаях неправомерного использования контента, созданного ИИ.
  • Риск для выручки — некоторые поставщики опасаются, что видимые водяные знаки отпугнут до трети их клиентов, которые предпочитают немаркированный текст по соображениям конкуренции или конфиденциальности.
  • Технические ограничения — внедрение паттерна может несколько снизить креативность ответов модели, особенно в очень коротких фрагментах, где у водяного знака меньше слов для работы. Пользователи также могут ослабить сигнал, вручную перефразируя части текста, что затрудняет обнаружение.

Anthropic делает ставку на то, что её подход позволяет обойти большинство этих недостатков. Вплетая ключ в процесс выбора токенов, компания утверждает, что это не вызывает задержек и не требует дополнительных токенов, сохраняя тем самым пользовательский опыт, которого ожидают платные клиенты.

Технические сложности

Возможность обнаружения зависит от того, обладает ли верификатор тем же закрытым ключом, который использовался при генерации. Короткие тексты остаются слабым местом, так как статистический паттерн в них менее выражен, что повышает вероятность ложноотрицательных результатов. Водяной знак также не препятствует последующему редактированию: пользователь, переписавший половину абзаца, может фактически стереть метку.

Итог: Водяной знак Anthropic отвечает новому законодательному требованию, но его эффективность будет зависеть от того, насколько удачно он сочетает в себе обнаруживаемость с сохранением гибкости и защитой от обхода.