Anthropic telah melancarkan tanda air untuk teks yang dihasilkan oleh Claude bagi memenuhi keperluan Akta AI EU yang mewajibkan kandungan sintetik ditandakan dengan jelas dalam cara yang boleh dibaca oleh mesin. Syarikat itu menyatakan bahawa teknik tersebut menandakan teks yang ditulis oleh AI tanpa memperlahankan model atau menggunakan token tambahan, satu dakwaan yang akan diuji oleh pengawal selia dan pesaing tidak lama lagi.

Mengapa tanda air ini penting

Tanda air tersebut menyemai keputusan pemilihan perkataan dengan kunci peribadi dan konteks sekeliling. Pembaca tidak dapat melihat corak tersebut, tetapi pengesah yang mengetahui kunci itu boleh mengesannya. Secara praktikal, alat hiliran akan mengimbas dokumen dan melaporkan sama ada Claude yang menghasilkannya.

Tekanan kawal selia

Akta AI EU memaksa penyedia sistem generatif untuk menyematkan isyarat yang boleh dikesan dalam kandungan sintetik.

Pertimbangan perniagaan

Syarikat-syarikat perlu mengimbangi tiga kebimbangan apabila memutuskan sama ada ingin menggunakan tanda tersebut:

  • Had kebolehkesanan – Tanda air tersebut mengesahkan bahawa teks datang daripada model AI, tetapi ia tidak dapat menghubungkan output tersebut kepada pengguna atau akaun tertentu. Jurang itu menyebabkan isu akauntabiliti timbul apabila kandungan janaan AI disalahgunakan.
  • Risiko hasil – Sesetengah penyedia bimbang tanda air yang kelihatan akan menakutkan sehingga satu pertiga daripada pelanggan mereka, yang lebih menyukai teks tanpa tanda atas sebab persaingan atau privasi.
  • Kekangan teknikal – Menyematkan corak boleh mengurangkan sedikit kreativiti daripada output model, terutamanya dalam petikan yang sangat pendek di mana tanda air mempunyai lebih sedikit perkataan untuk digunakan. Pengguna juga boleh mencairkan isyarat tersebut dengan menyusun semula bahagian teks secara manual, menjadikan pengesanan lebih sukar.

Anthropic bertaruh bahawa pendekatannya dapat mengelakkan kebanyakan kelemahan ini. Dengan menyulam kunci tersebut ke dalam proses pemilihan token, syarikat itu mendakwa tiada penalti kependaman dan tiada kos token tambahan, sekali gus mengekalkan pengalaman pengguna yang diharapkan oleh pelanggan berbayar.

Cabaran teknikal

Kebolehkesanan bergantung kepada pengesah yang mempunyai kunci peribadi yang sama seperti yang digunakan semasa penjanaan. Teks pendek kekal menjadi titik lemah kerana corak statistik kurang ketara, yang meningkatkan kadar negatif palsu. Tanda air tersebut juga tidak menghalang penyuntingan hiliran; pengguna yang menulis semula separuh daripada perenggan tersebut secara berkesan boleh memadamkan penanda tersebut.

Rumusan: Tanda air Anthropic menjawab mandat undang-undang baharu, tetapi impaknya akan bergantung kepada sejauh mana ia dapat mengimbangi kebolehkesanan dengan pengurangan fleksibiliti dan risiko untuk dipintas.