טיוטת תקנת ה-"Chat Control" של האיחוד האירופי תרחיב את חובת סינון התכנים לכל שירות המעביר תקשורת בין-אישית – מה שכולל כעת גם ממשקי צ'אט מבוססי AI. אם תאומץ, ספקי בינה מלאכותית שיחתית עלולים להיאלץ לסרוק כל פרומפט (prompt) של משתמש כדי לאתר חומרים בלתי חוקיים, ובכך להפוך שאלות פרטיות בנושאי בריאות, משפט או עסקים לנקודות נתונים שרשויות בוחנות באופן אוטומטי.
מדוע החוק מגיע כעת גם ל-AI
האיחוד האירופי שאף במקור לבלום תוכן בלתי חוקי, במיוחד חומרים של ניצול מיני של ילדים, באפליקציות מסרים פרטיות. עם זאת, הניסוח אינו מסתכם ב-SMS או בפלטפורמות מסרים (messenger). הוא מגדיר "תקשורת בין-אישית" באופן רחב מספיק כדי לכלול כל כלי שבו שני אנשים או יותר מחליפים הודעות, והרגולטורים פירשו הגדרה זו כך שתכלול גם חלונות צ'אט של AI.
הערכות טכניות ממספר מדינות חברות מציינות כי שיחות AI מכילות לעיתים קרובות פרטים רגישים יותר מאשר טקסטים רגילים – משתמשים חושפים באופן שגרתי היסטוריה רפואית, אסטרטגיות משפטיות או תוכניות עסקיות קנייניות כדי לקבל ייעוץ ממודל. אותם מסננים אוטומטיים הסורקים הודעות בין טלפונים יכולים לשמש למטרה אחרת – ניתוח פרומפטים של AI, וגורמים רשמיים חוששים שגורמים עוינים יוכלו לנצל מודלים גנרטיביים כדי להפיק תוכן בלתי חוקי בקנה מידה רחב.
מה כבר קורה עם נתוני AI
גם ללא חוק חדש, חברות AI גדולות כבר אוספות ושומרות קלטים של משתמשים. OpenAI שומרת שיחות כברירת מחדל ומשתמשת בהן כדי לשפר את המודלים שלה, תוך שיתוף נתונים עם שותפים, ומתי שנדרש, עם רשויות אכיפת החוק. Google משלבת יומני
מודלים מקומיים אולי אינם משתווים להיקף של GPT-4, אך הם מטפלים במשימות כתיבה יומיומיות, סיוע בכתיבת קוד ומשימות מחקר. היתרון המרכזי הוא שהפרומפטים לעולם אינם עוזבים את המכשיר שלך, מה שמבטל את הסיכון לסריקה אוטומטית.
מה כדאי לעקוב אחריו בהמשך
התהליך החקיקתי של האיחוד האירופי יתפתח במהלך החודשים הקרובים, כאשר ועדות יבחנו את ההיקף של "תקשורת בין-אישית". קבוצות בתעשייה כבר מפעילות לובי עבור פטורים או הגדרות ברורות יותר שיחריגו שירותי צ'אט מבוססי AI. עקבו אחר הצהרות של ספקי AI מרכזיים – ייתכן שהם ישיקו בקרות פרטיות חדשות או אפילו יערערו על הרגולציה בבית המשפט.
אם הכלל יעבור כפי שהוא נוסח, השיקולים בנוגע לפרטיות עבור משתמשי AI ישתנו באופן דרמטי. עד אז, התייחסו לכל פרומפט כאילו צד שלישי יכול לקרוא אותו ואימצו פתרונות local-first בכל מקום שניתן. השאלות שלכם הן אישיות; הגנה עליהן צריכה להיות עדיפות, ולא מחשבה שבאה בדיעבד.