Anthropic תטמיע סימנים מוסתרים (watermarks) הניתנים לקריאה על ידי מכונה בכל טקסט ותמונה שיוצרו על ידי מודלי Claude שלה. המהלך נועד לענות על כללי השקיפות של חוק הבינה המלאכותית (AI Act) החדש של האיחוד האירופי. החברה מציינת כי הסימנים יופיעו בכל גרסאות Claude העתידיות ויתווספו רטרואקטיבית למודלים קיימים במהלך תקופת חסד של ארבעה חודשים.

מדוע כלל האיחוד האירופי חשוב כעת

חוק ה-AI, שנכנס לתוקף ב-2 באוגוסט, מחייב מפתחים של מערכות AI בסיכון גבוה להפוך תוכן סינתטי לניתן לזיהוי. ללא אות טכני, פלטפורמות עלולות לעמוד בפני קנסות או להיאלץ להפסיק את פעילותן באירופה. לכן, ההחלטה של Anthropic נותנת מענה לדדליין רגולטורי שאלמלא כן עלול לצמצם את שוקה בבלוק.

כיצד הסימנים עובדים

עבור תמונות, Anthropic תפעל לפי תקן C2PA – מסגרת מטא-דאטה שכבר נמצאת בשימוש על ידי Adobe, OpenAI ו-Google. תקן C2PA מצמיד נתוני מקור (provenance) לקובץ תמונה שכלים תואמים יכולים לקרוא, מבלי לפגוע בתוכן הוויזואלי.

סימון טקסט (Text watermarking) עושה זאת בדרך שונה. במקום תג מטא-דאטה נפרד שנעלם כאשר משתמש מעתיק טקסט, Anthropic תשלב אות עדין ישירות בתוך המבנה הלשוני של הפלט. החברה מדגישה כי הטכניקה אינה משנה את המשמעות, השטף או הקריאות, כך שמשתמשים לא יבחינו בשום ירידה באיכות.

היקף ההטמעה

שכבת הסימון תכסה את כל המערכת האקולוגית (ecosystem) של Claude:

  • Claude Platform (API) – מפתחים הבונים אפליקציות צד שלישי יקבלו פלטים עם תג המקור באופן אוטומטי.
  • Claude Code and Claude Cowork – סביבות ייעודיות לסיוע בתכנות ועבודה שיתופית גם הן יטמיעו את האות.
  • Claude Tag – גם וריאציות מודל נישתיות או ניסיוניות לא יהיו פטורות.

על ידי הגעה הן לממשק האינטרנט והן לכלים המיועדים למפתחים, Anthropic יוצרת שרשרת אחריות עקבית מהפרומפט ועד למוצר הסופי.

הסיכונים וההזדמנויות למפתחים ולמשתמשים

הציות לחוק ה-AI הוא המניע להטמעה. חברות שישלבו את Claude בשירותים אירופיים יוכלו להוכיח שתוכן שנוצר על ידי AI ניתן למעקב, מה שיפחית סיכונים משפטיים וישמור על הגישה לשוק ששווה מיליארדי אירו.

מעבר לרגולציה, מקור שקוף יכול להגביר את אמון המשתמשים. ככל שהמדיה הסינתטית הופכת למשכנעת יותר, היכולת לאמת את המקור עשויה להפוך ליתרון תחרותי. עבור מפתחים, סימן מובנה מסיר את הצורך ביצירת מנגנוני זיהוי משלהם, ובכך חוסך מאמץ הנדסי.

התנגדות פוטנציאלית

מבקרים מזהירים כי כל דפוס שניתן לזיהוי עלול בסופו של דבר להילמד ולהוסר על ידי טכניקות עוינות (adversarial techniques), מה שיערער את מטרת המהלך. סימן הטקסט, למרות היותו בלתי נראה לקוראים, מסתמך על קביעות סטטיסטיות שמודלים מתוחכמים עשויים לשחזר ללא האות הנסתרת. עם זאת, הוספת מידע נוסף, קטן ככל שיהיה, עלולה להגדיל מעט את העומס החישובי או את גודל המודל – חששות עבור אפליקציות בעלות תפוקה גבוהה.

Anthropic טוענת כי הסימן הוא "בלתי מורגש" וכי בדיקות פנימיות נרחבות לא הראו השפעה על איכות הפלט. החברה מציינת גם כי מטא-דאטה של C2PA הוא כבר תקן בתעשייה, מה שמרמז על כך שהמערכת מוכנה לקרוא ולכבד את התגים.

מה כדאי לעקוב אחריו בהמשך

  • לוח הזמנים לשדרוג רטרואקטיבי – ל-Anthropic יש ארבעה חודשים להוסיף סימנים למודלים קיימים של Claude. עיכובים עלולים לדחוף לקוחות אירופאים לעבר ספקים חלופיים.
  • אימוץ כלים – התועלת של C2PA תלויה בדפדפנים, במערכות לניהול תוכן ובכלי אימות התומכים בתקן. המהירות שבה המערכת תשלב קוראי C2PA תעיד על התפוצה המעשית של סימן התמונה.
  • מרוץ חימוש של זיהוי – אם צדדים שלישיים יפתחו שיטות להסרת או חיקוי סימן הטקסט, ייתכן ש-Anthropic תצטרך לשפר את אלגוריתם ההטמעה. עדכונים עתידיים עשויים לכלול אותות שכבות נוספות.
  • משוב רגולטורי – האיחוד האירופי עשוי לשכלל את הוראות השקיפות שלו ככל שיופיעו יישומים בעולם האמיתי. הניסיון של Anthropic עשוי לעצב הנחיות לגבי טכניקות סימון מקובלות.

בשורה התחתונה

ההטמעה של סימנים מוסתרים על ידי Anthropic היא צעד קונקרטי לעמידה בדרישות המשפטיות של האיחוד האירופי, תוך הצעת פתרון מקור אחיד עבור כל סדרת Claude. הגישה מאזנת בין ציות, חווית משתמש ונוחות למפתחים, אך יעילותה לטווח ארוך תלויה בתמיכת המערכת האקולוגית ובעמידות בפני הסרה על ידי גורמים עוינים.