Anthropic השיקה סימן מים (watermark) לטקסטים שנוצרו על ידי Claude כדי לעמוד בדרישת חוק הבינה המלאכותית של האיחוד האירופי (EU AI Act), המחייבת סימון ברור של תוכן סינתטי באופן שניתן לקריאה על ידי מכונה. החברה טוענת כי הטכניקה מסמנת טקסט שנכתב על ידי בינה מלאכותית מבלי להאט את המודל או להשתמש בטוקנים (tokens) נוספים, טענה שרגולטורים ומתחרים יבחנו בקרוב.
למה סימן המים חשוב
סימן המים משתיל בתוך החלטות בחירת המילים מפתח פרטי והקשר סביבתי. הקוראים אינם יכולים לראות את התבנית, אך כלי אימות שמכיר את המפתח יכול לזהות אותה. בפועל, כלי המשמש בשלבים מאוחרים יותר (downstream) סורק מסמך ומדווח האם Claude יצר אותו.
לחץ רגולטורי
חוק הבינה המלאכותית של האיחוד האירופי מחייב ספקי מערכות גנרטיביות להטמיע אותות ניתנים לזיהוי בתוך תוכן סינתטי.
פשרות עסקיות
חברות מתמודדות עם שלוש בעיות מרכזיות כאשר הן מחליטות האם לאמץ סימונים כאלה:
- מגבלות עקיבות (Traceability) – סימן המים מאשר שהטקסט הגיע ממודל בינה מלאכותית, אך הוא אינו יכול לקשר את הפלט למשתמש או לחשבון ספציפיים. פער זה משאיר את שאלת האחריות פתוחה כאשר תוכן שנוצר על ידי בינה מלאכותית מנוצל לרעה.
- סיכון להכנסות – ספקים מסוימים חוששים שסימני מים גלויים יבריחו עד שליש מלקוחותיהם, המעדיפים טקסט ללא סימון מסיבות של תחרותיות או פרטיות.
- אילוצים טכניים – הטמעת תבנית עלולה לצמצם מעט את היצירתיות של פלט המודל, במיוחד בקטעים קצרים מאוד שבהם לסימן המים יש פחות מילים לעבוד איתן. משתמשים יכולים גם לדלל את האות על ידי ניסוח מחדש ידני של חלקים מהטקסט, מה שמקשה על הזיהוי.
Anthropic מהמרת על כך שהגישה שלה עוקפת את רוב החסרונות הללו. על ידי שזירת המפתח בתהליך בחירת הטוקנים, החברה טוענת כי אין פגיעה בזמן התגובה (latency) ואין עלות טוקנים נוספת, מה ששומר על חוויית המשתמש שלקוחות משלמים מצפים לה.
אתגרים טכניים
היכולת לזהות את הסימן תלויה בכך שלכלי האימות יהיה את אותו מפתח פרטי ששימש במהלך היצירה. טקסטים קצרים נותרים נקודת תורפה מכיוון שהתבנית הסטטיסטית פחות בולטת, מה שמעלה את שיעור ה"שלילה השגויה" (false-negative). סימן המים גם אינו מונע עריכה מאוחרת; משתמש שכותב מחדש מחצית מהפסקה יכול למעשה למחוק את הסימן.
שורה תחתונה: סימן המים של Anthropic עונה על מנדט משפטי חדש, אך השפעתו תלויה בשאלה עד כמה הוא יצליח לאזן בין יכולת זיהוי לבין פגיעה בגמישות ובסיכון לעקיפה.