Anthropic kini menyematkan corak statistik tersembunyi—SynthID-Text—ke dalam setiap respons Claude. Syarikat itu menyatakan bahawa langkah ini memenuhi Kod Ketelusan Akta AI EU dan memberi jalan kepada pembangun untuk membuktikan sesuatu teks datang daripada model AI. Tanda air tersebut kekal walaupun melalui suntingan biasa, sambil membiarkan prosa tidak terjejas bagi pembaca manusia.

Mengapa tanda air ini ditambah

Pengawal selia Eropah telah mendesak penyedia model bahasa besar (LLM) untuk menjadikan kandungan janaan AI dapat dibezakan daripada penulisan manusia. Kod Ketelusan Akta AI EU, yang bakal dikuatkuasakan di seluruh blok tersebut, mewajibkan pembangun untuk menyediakan kaedah pengesanan yang boleh dipercayai bagi sebarang teks yang dihasilkan oleh model mereka. Anthropic menjawab cabaran ini dengan menggunakan teknik SynthID-Text yang pertama kali diperkenalkan oleh Google DeepMind pada tahun lepas.

Keputusan tersebut mencetuskan pelbagai perbincangan di Reddit dan X, di mana pengguna bimbang tanda air itu boleh menjejaskan kualiti output atau menjadi pintu belakang untuk pengawasan. Anthropic menyangkal kebimbangan tersebut dengan menyatakan bahawa corak itu tidak kelihatan kepada pembaca, tidak menambah latensi, dan boleh dimatikan untuk penggunaan peribadi. Dengan menerbitkan butiran teknikal, syarikat itu berharap dapat meredakan spekulasi dan menetapkan penanda aras bagi industri ini.

Cara SynthID-Text berfungsi

Pengesan AI tradisional mengimbas keunikan linguistik—frasa yang berulang, tanda baca yang pelik, atau sisihan statistik daripada penulisan manusia. Isyarat-isyarat tersebut akan hilang sebaik sahaja manusia menulis semula sesuatu perenggan, menjadikan pengesan tersebut tidak boleh dipercayai. Sebaliknya, SynthID-Text menyematkan isyarat rahsia semasa langkah pemilihan token model tersebut.

Apabila Claude memilih antara dua token yang sama-sama munasabah—contohnya "overcast" berbanding "grey"—sistem akan mengarahkan keputusan ke arah token yang sesuai dengan corak binari yang telah dikira terlebih dahulu. Sepanjang dokumen tersebut, dorongan ini menghasilkan urutan bit yang boleh diekstrak kemudian oleh API pengesanan. Corak ini sengaja dibuat dengan impak yang rendah: sinonim yang dipilih tetap merupakan perkataan yang sangat semula jadi, jadi aliran teks tidak berubah. Oleh kerana tanda air ini wujud dalam aliran token dan bukannya pada teks permukaan, ia dapat bertahan melalui kebanyakan pemprosesan hiliran yang tidak menggantikan setiap token.

Ketahanan suntingan: apa yang kekal dan apa yang tidak

Kritikan biasa adalah pengguna boleh menyunting prosa janaan AI dengan mudah untuk memadamkan tanda air tersebut. Ujian dalaman Anthropic menggariskan tiga senario suntingan:

  • Suntingan ringan – membetulkan kesalahan ejaan, menukar beberapa kata adjektif, atau melaraskan urutan ayat. Tandatangan statistik tanda air tersebut kekal hampir sepenuhnya kerana kebanyakan token tidak berubah.
  • Suntingan berat berbantuan Claude – mengarahkan Claude untuk menulis semula draf yang sudah mengandungi ayat janaan AI. Jika pengguna mengekalkan kawalan ke atas kebanyakan pemilihan kata, isyarat tanda air akan menjadi lemah mengikut kadar jumlah teks baharu yang dipilih oleh manusia.
  • Penulisan semula sepenuhnya – menggantikan setiap token dengan penjanaan baharu atau penulisan semula secara manual. Pada tahap itu, tanda air asal akan musnah, tetapi teks yang terhasil tidak lagi memenuhi definisi "janaan AI" oleh EU kerana tiada kesan output model asal yang tinggal.

Kesimpulannya: tanda air ini tahan terhadap pemurnian biasa tetapi tidak terhadap penjanaan semula kandungan secara menyeluruh.

Penjanaan kod: di mana tanda air berada

Claude digunakan secara meluas sebagai pembantu pengekodan, menghasilkan segalanya daripada petikan satu baris hingga ke modul stack penuh. Bahasa pengaturcaraan memberikan ruang yang sangat sedikit untuk pilihan sinonim; menukar token seperti "for" kepada "while" akan mengubah logik. Oleh itu, Anthropic menjangkakan tanda air akan muncul hampir secara eksklusif dalam bahagian di mana model mempunyai kebebasan untuk memilih perkataan—seperti komen, docstring, dan prosa penjelasan yang menyertai kod tersebut.

Oleh kerana bahagian fungsian kod tidak disentuh, pembangun tidak sepatutnya melihat sebarang penurunan dalam ketepatan atau prestasi. Kehadiran tanda air adalah terhad kepada teks sampingan yang membantu manusia memahami kod, sekali gus memenuhi keperluan ketelusan tanpa menjejaskan kegunaan.

Kesan rantaian industri

Anthropic tidak bertindak sendirian. Beberapa pembangun LLM lain telah menandatangani Kod Amalan yang sama yang menyeru kepada API pengesanan yang standard. Jika garis masa penguatkuasaan EU berjalan seperti yang dirancang, penandaan air boleh menjadi lapisan lalai dalam stack LLM, sama seperti penyulitan (encryption) untuk penghantaran data hari ini. Syarikat yang mengabaikan keperluan ini berisiko dikenakan denda, kehilangan akses pasaran di Eropah, atau pembuangan perkhidmatan mereka secara paksa.

Titik pertikaian

Pengkritik berhujah bahawa tandatangan tersembunyi, walaupun tidak kelihatan, boleh digunakan semula untuk penjejakan atau atribusi melangkaui pematuhan kawal selia. Mereka juga bimbang tentang positif palsu: API pengesanan yang tersalah melabel teks tulisan manusia boleh menjejaskan kepercayaan terhadap platform yang bergantung pada isyarat tersebut. Anthropic mengakui risiko ini dan menyatakan bahawa algoritma pengesanan tersebut akan menjadi sumber terbuka, membolehkan audit dan penentukur bebas dilakukan.

Kebimbangan praktikal lain adalah beban pengkomputeran untuk menjana tanda air tersebut. Anthropic melaporkan bahawa pemprosesan tambahan tersebut menambah kurang daripada sebahagian kecil peratusan kepada masa inferens, satu dakwaan yang akan diuji oleh penanda aras pihak ketiga tidak lama lagi.

Apa yang perlu diperhatikan seterusnya

  • Pelancaran API – Anthropic merancang untuk mengeluarkan titik akhir awam yang mengekstrak corak bit tersembunyi daripada sebarang output Claude. Pembangun akan dapat menyepadukan semakan tersebut ke dalam saluran pengurusan kandungan.
  • Usaha penstandardan – Badan kawal selia dan kumpulan industri sedang merangka format umum untuk metadata tanda air, yang boleh memudahkan pengesanan merentas model.
  • Kajian empirikal – Penyelidik bebas mula menguji daya tahan SynthID-Text terhadap alatan penulisan semula adversarial. Penemuan mereka akan menentukan sejauh mana tahap keyakinan platform terhadap isyarat tersebut.

Kesimpulan

Penggunaan SynthID-Text oleh Anthropic memberikan komuniti AI alat yang konkrit untuk memenuhi peraturan ketelusan Eropah yang akan datang sambil mengekalkan kualiti output Claude. Tanda air tersebut kekal walaupun melalui pembacaan pruf harian tetapi akan hilang apabila teks dijana semula sepenuhnya, dan ia wujud dalam bahagian bukan kod dalam output pengaturcaraan di mana ia tidak mengganggu kefungsian. Sama ada pendekatan ini menjadi norma industri bergantung kepada sejauh mana prestasi API pengesanan dalam tetapan dunia nyata dan sama ada kebimbangan mengenai privasi serta penggera palsu dapat ditangani.