У водяного знака Anthropic есть проблема с конфиденциальностью

Новый API Anthropic для обнаружения водяных знаков вынуждает разработчиков, учебные заведения и предприятия загружать целые документы на свои серверы, превращая инструмент прозрачности в потенциальную угрозу конфиденциальности.

Как работает водяной знак

Anthropic внедряет невидимый паттерн в каждый текст, созданный Claude, смещая выбор слов с помощью секретного ключа. Например, он может заменить «серый» на «пасмурный» в соответствии со скрытым графиком, который человек не может заметить. Только система обнаружения Anthropic способна считать этот паттерн, и она будет активна для всех моделей Claude начиная со 2 августа 2026 года.

Процесс проверки

Чтобы доказать, что текст содержит водяной знак, пользователи вызывают API обнаружения Anthropic и отправляют весь документ на облачный эндпоинт компании. Сервис запускает свой проприетарный алгоритм и возвращает простой ответ «да» или «нет».

Почему это важно

Требование о загрузке передает полный контент стороннему поставщику ИИ. Университеты, проверяющие эссе, HR-отделы, изучающие сопроводительные письма, и юридические фирмы, проверяющие контракты, подвергают риску:

  • Академические исследования и неопубликованные данные
  • Личные заявления, резюме и рекомендательные письма
  • Внутренние служебные записки, стратегические планы или финансовые прогнозы
  • Конфиденциальные юридические соглашения

Anthropic утверждает, что сам водяной знак не кодирует личность пользователя, но необработанный текст теперь находится на инфраструктуре Anthropic. Контроль как над стороной генерации (где вставляется водяной знак), так и над стороной проверки (где проверяется текст) дает компании единый канал, который может накапливать огромные объемы проприетарной или персонально идентифицируемой информации.

Ограничения безопасности и эффективности

Даже если опасения по поводу конфиденциальности исчезнут, устойчивость водяного знака остается сомнительной. Несколько изменений в словах стирают паттерн. Прогон текста через другую модель ИИ, которая перефразирует его, также удаляет сигнал. Инструменты с открытым исходным кодом уже умеют удалять водяной знак из результатов Claude. В результате API обнаружения может помечать только низкокачественные копии, в то время как опытные пользователи смогут его обходить, подвергая данные риску без получения соразмерной выгоды в безопасности.

Кто теряет, а кто выигрывает

  • Педагоги и работодатели: быстрая проверка на вопрос «написано ли это ИИ?» обходится скрытой ценой — отправкой студенческих работ или материалов кандидатов в коммерческую лабораторию ИИ.
  • Предприятия, работающие с конфиденциальными документами: юридические отделы и службы корпоративных коммуникаций рискуют раскрыть коммерческую тайну или привилегированную информацию стороннему сервису.

На что обратить внимание в дальнейшем

  • Политика и условия контрактов: клиентам следует внимательно изучить политику Anthropic в отношении хранения и использования данных, чтобы понять, сохраняются ли загруженные тексты, передаются ли они третьим лицам или используются для обучения.
  • Альтернативные методы проверки: могут появиться инструменты обнаружения водяных знаков с открытым исходным кодом или инструменты статистического анализа, предлагающие локальные проверки, позволяющие избежать отправки данных за пределы организации.

Если ваш продукт полагается на Claude или вы рассматриваете возможность использования API обнаружения, проверьте, куда уходит текст после проверки и какие права вы сохраняете над ним. Прозрачность в отношении контента, созданного ИИ, ценна, но она не должна достигаться ценой передачи частных данных ваших пользователей той самой компании, которая создала водяной знак.