מדוע מודלי שפה גדולים (LLMs) מתקשים לחקות את המגוון האנושי בטיעונים

ככל שמודלי שפה גדולים (LLMs) משתלבים יותר ויותר ביצירת תוכן, עולה שאלה קריטית: האם אנחנו באמת יכולים להבחין בין טקסט שנוצר על ידי מכונה לכתיבה אנושית? Max Spero, מנכ"ל הסטארט-אפ Pangram המתמחה בזיהוי טקסט AI, מציע שהתשובה אינה טמונה בדקדוק, אלא בחוסר המובנה במגוון קוגניטיבי בתוך מודלי ה-AI.

"בעיית האחידות" בחשיבה של AI

אחד הפגמים המשמעותיים ביותר ב-LLMs הנוכחיים הוא הנטייה שלהם להתקבצות סטטיסטית (statistical clustering). בעוד ש-AI עשוי להציג ביצועים טובים יותר מהאדם הממוצע מבחינת דקדוק מושלם ולוגיקה פורמלית, חסר לו ה"רוחב הטיעוני" המגדיר את האינטלקט האנושי. לפי Spero, אם תבקשו מ-LLM 100 טיעונים שונים בנושא אחד, הפלטים יתקבצו בהכרח בתוך טווח צר וצפוי.

לעומת זאת, מרחב המחשבה האנושית הוא עצום ומבולגן. בני אדם שואבים מחוויות חיים ייחודיות, ניואנסים תרבותיים ולוגיקה לא שגרתית כדי לבנות נקודות מבט. LLMs, שאומנו לחזות את ה-token הבא בעל ההסתברות הגבוהה ביותר, נמשכים לעבר ה"מרכז" של ההתפלגות, מה שיוצר דפוס חשיבה חזרתי שהופך את טבעם הסינתטי לניתן לזיהוי על ידי מסווגים (classifiers) מתוחכמים.

כיצד Pangram מזהה דפוסי מכונה

Pangram משתמשת במסווג למידה עמוקה (deep-learning classifier) שנועד לזהות את החתימות המבניות העדינות הללו. באופן מעניין, Spero מתאר את הטכנולוגיה של Pangram עצמה כ"קופסה שחורה", ומציין כי המודל מזהה דפוסים שאפילו יוצריו אינם יכולים לפרש במלואם. בעוד שהכלי יכול להציף ביטויים חשודים מסוימים כרמזים, כוחו האמיתי טמון בזיהוי התבניות המבניות שבבסיס הטקסט ש-LLMs משאירים אחריהן בעת ארגון מסמך.

התבניות הללו הן טביעות האצבע הדיגיטליות של ההסתברות. מכיוון ש-LLMs מותאמים לאחידות (coherence) ומבנה סטנדרטי, הם עוקבים אחר נתיבי ארגון שאינם סבירים מבחינה סטטיסטית עבור כותב אנושי, שעשוי לקפוץ בין רעיונות או להשתמש במעברים לא ליניאריים.

העתיד של זיהוי AI ושלמות התוכן

התפתחות זו מדגישה מרוץ חימוש גובר בנוף ה-AI. ככל שמודלים גנרטיביים מתפתחים והופכים למתוחכמים יותר, התאמת דפוסים פשוטה עשויה כבר לא להספיק. כדי באמת "לעבוד" על גלאים מתקדמים כמו Pangram, מפתחים יצטרכו לעבור מעבר ליצירת טקסט הסתברותית לעבר מודלים המסוגלים לגיוון טיעוני אמיתי.

עבור מייסדים ומפתחים הפועלים בתחום הגנרטיבי, זה משמש כאזהרה טכנית: הדרך ל-AI ב"רמה אנושית" דורשת יותר מאשר רק דקדוק טוב יותר; היא דורשת את היכולת להשתחרר מהממוצע הצפוי ולאמץ את המגוון הכאוטי של המחשבה האנושית.

נקודות מפתח

• התקבצות סטטיסטית: LLMs נוטים לייצר טיעונים שמתקבצים בתוך טווח צר, בעוד שחשיבה אנושית מאופיינת במגוון גבוה ובחוסר צפיות.
• טביעות אצבע מבניות: גלאי טקסט AI כמו Pangram מזהים תוכן שנוצר על ידי מכונה על ידי זיהוי דפוסים מבניים עמוקים ותבניות ארגוניות שמשאירים מאחריהם מודלים הסתברותיים.
• פער הלוגיקה: בעוד ש-LLMs עשויים להצטיין בלוגיקה פורמלית ובדקדוק, המחסור שלהם בשונות קוגניטיבית הופך אותם לפגיעים לזיהוי בשל האחידות המובנית שלהם.