Watermark Anthropic Memiliki Masalah Privasi

API deteksi watermark baru milik Anthropic memaksa pengembang, sekolah, dan perusahaan untuk mengunggah seluruh dokumen ke servernya, mengubah alat transparansi menjadi potensi bahaya privasi.

Cara kerja watermark

Anthropic menyematkan pola tak kasat mata pada setiap teks yang dihasilkan Claude dengan membiaskan pilihan kata menggunakan kunci rahasia. Sebagai contoh, ia mungkin menukar kata “grey” dengan “overcast” sesuai dengan jadwal tersembunyi yang tidak dapat dilihat manusia. Hanya sistem deteksi Anthropic yang dapat membaca pola tersebut, dan fitur ini akan aktif untuk semua model Claude mulai 2 Agustus 2026.

Alur verifikasi

Untuk membuktikan bahwa suatu teks mengandung watermark, pengguna memanggil API deteksi Anthropic dan mengirimkan seluruh dokumen ke endpoint cloud perusahaan tersebut. Layanan ini menjalankan algoritma proprieternya dan memberikan jawaban sederhana ya/tidak.

Mengapa hal ini penting

Persyaratan pengunggahan ini menyerahkan konten lengkap kepada penyedia AI eksternal. Universitas yang memindai esai, departemen HR yang menyeleksi surat lamaran, dan firma hukum yang meninjau kontrak semuanya berisiko mengekspos:

  • Penelitian akademik dan data yang belum dipublikasikan
  • Pernyataan pribadi, resume, dan surat referensi
  • Memo internal, rencana strategis, atau prakiraan keuangan
  • Perjanjian hukum rahasia

Anthropic menyatakan bahwa watermark itu sendiri tidak menyandikan identitas pengguna, tetapi teks mentah tersebut kini berada di infrastruktur Anthropic. Dengan mengendalikan sisi pembuatan (tempat watermark disematkan) dan sisi verifikasi (tempat teks diperiksa), perusahaan memiliki satu alur tunggal yang dapat mengumpulkan informasi kepemilikan atau informasi identitas pribadi dalam jumlah besar.

Batasan keamanan dan efektivitas

Meskipun kekhawatiran privasi hilang, ketahanan watermark ini masih meragukan. Perubahan beberapa kata saja dapat menghapus polanya. Menjalankan teks melalui model AI lain yang menulis ulang kalimatnya juga akan menghilangkan sinyal tersebut. Alat sumber terbuka (open-source) sudah mampu menghapus watermark dari output Claude. Akibatnya, API deteksi mungkin hanya menandai salinan dengan upaya rendah, sementara pengguna yang canggih dapat menghindarinya, sehingga mengekspos data tanpa memberikan manfaat keamanan yang sepadan.

Siapa yang rugi, siapa yang untung

  • Pendidik dan pemberi kerja: Pemeriksaan cepat “apakah ini ditulis oleh AI?” menanggung harga tersembunyi berupa pengiriman karya siswa atau materi pelamar ke laboratorium AI komersial.
  • Perusahaan yang menangani dokumen sensitif: Tim hukum dan komunikasi korporat berisiko mengekspos rahasia dagang atau informasi istimewa ke layanan eksternal.

Apa yang perlu diperhatikan selanjutnya

  • Kebijakan dan ketentuan kontrak: Klien harus meneliti kebijakan retensi data dan penggunaan Anthropic untuk melihat apakah teks yang diunggah disimpan, dibagikan, atau digunakan untuk pelatihan.
  • Metode verifikasi alternatif: Alat deteksi watermark sumber terbuka atau alat analisis statistik dapat muncul, menawarkan pemeriksaan on-premise yang menghindari pengiriman data ke luar lokasi.

Jika produk Anda bergantung pada Claude atau Anda sedang mempertimbangkan API deteksi tersebut, verifikasi ke mana teks tersebut pergi setelah pemeriksaan dan hak apa yang Anda pertahankan atas teks tersebut. Transparansi mengenai konten buatan AI memang berharga, tetapi hal itu tidak boleh mengorbankan penyerahan data pribadi pengguna Anda kepada perusahaan yang sama yang menciptakan watermark tersebut.