טיוטת הצ'אטבוט הראשונה הגיעה לתיבת הדואר הנכנס של מורה לפני כשנתיים, והמצב רק האיץ מאז. סטודנט יכול כעת לבקש מ-ChatGPT להפיק חמישה פסקאות על הסיבות למיתון הגדול או על הסמליות ב-The Great Gatsby ולקבל תגובה קוהרנטית בפחות זמן מזה שנדרש להשחזת עיפרון. עבור אנשי חינוך, הדבר שינה את מהות היושרה האקדמית. הם כבר לא מחפשים רק פלגיאט מסורתי, שבו אדם אחד מעתיק עבודה של אדם אחר. הם מחפשים גם פרוזה סינתטית — טקסט שנשמע אנושי אך הורכב על ידי מודל ללא הבנה, ללא זיכרונות וללא עניין בטיעון.
כשקול הכתיבה משתנה לפתע
מורים קוראים מאות חיבורי סטודנטים בכל סמסטר. עם הזמן, הם מפתחים אוזן לקצב האישי. הם מבחינים בשימוש הרגיל בחיבור פסיקים שגוי, בביטויים המועדפים, ובדרך שבה סטודנט מסוים מבנה סיכום. כשמגיעה עבודה שנשמעת כלל לא כמו הקול שהם רגילים אליו, הדבר מעורר בדיקה מעמיקה יותר.
זה לא קשור להענשת שיפור. מורים טובים חיו כדי לראות צמיחה. אך יש הבדל בין סטודנט ששיפר את התחביר שלו בהתמדה לבין כזה שמגיש חיבור שנראה כמו כתב תביעה מלוטש לאחר שמונה חודשים של משפטים מסורבלים ופשוטים. הפרוזה עשויה להיות ללא רבב, אך היא מרגישה מושאלת מכיוון שחסרה בה ה"ארכיאולוגיה של התרגול". הקפיצה הפתאומית והבלתי מוסתתת ברמת התחכום היא לעיתים קרובות הרמז הראשון.
פני שטח מקצועיים, מרכז חלול
כתיבה המיוצרת על ידי בינה מלאכותית נוטה לאכלס "עמק מוזר" של נכונות. הדקדוק תקין. המעברים זורמים. ובכל זאת, הטקסט מרחף מעל החומר במקום לחפור בתוכו. מורים מתארים לעיתים קרובות איכות זו כ"גנרית ומקצועית".
חשבו על חיבור על Romeo and Juliet. כותב סטודנט עשוי להתמקד בתפקידו המשני של מרקוזיו, לפרש סצנה בצורה מעניינת, או להשוות את הסכסוך המשפחתי לקונפליקט בקהילה שלו. התזה עשויה להיות מבולגנת, אך היא ללא ספק תוצר של מוח יחיד הנאבק בטקסט. לעומת זאת, טיוטת AI נוטה לעיתים קרובות לסכם את העלילה במדויק, לציין שלושה תמות אוניברסליות ולהסיק שאהבה דורשת הקרבה. זה נכון. זה גם ריק. היעדר הסיכון הזה — ללא דעה ייחודית, ללא תובנה פגומה אך אמיתית — הוא אחד האינדיקטורים האמינים ביותר לכך שהכותב לא היה הסטודנט.
הפניות שמובילות לשום מקום
סימן אזהרה נוסף הוא ציטוט "הזוי" (hallucinated citation). ChatGPT וכלים דומים ממציאים מדי פעם ספרים, מאמרים בכתבי עת ואפילו מחברים. הרישומים נראים סבירים, כולל כותרות שנשמעות אקדמיות, שמות הוצאות לאור ושנות פרסום, אך אין להם שום קשר למציאות.
מורים ותיקים מאמתים מקורות. הם מזינים כותרות ל-Google Scholar, מחפשים במאגר הספרייה של הקמפוס, או פשוט מריצים שם של מחבר במנוע חיפוש. כשכל ציטוט מוביל למבוי סתום, האמינות של העבודה קורסת. בדיקת ביבליוגרפיות הייתה תמיד חלק מהוראת מחקר רצינית, אך כעת היא הופכת לפרקטיקה סטנדרטית אפילו עבור חיבורים אנליטיים קצרים. דף רשימת המקורות אינו עוד רק תרגיל בעיצוב; הוא נקודת בקרה ליושרה.
המגבלות של תוכנות הזיהוי
מחוזות רבים הגיבו לגל של טקסט סינתטי על ידי רישוי כלים לזיהוי AI. תוכנות אלו סורקות דפוסים סטטיסטיים — רמת מורכבות (perplexity) נמוכה, מבני משפטים צפויים, קצב חזרתי — הנפוצים בפרוזה שנוצרה על ידי מכונה. הן יכולות להיות מועילות. ציון הסתברות גבוה נותן למרצה סיבה לבחון את הדברים בקפידה רבה יותר.
אך מורים יודעים שכלים אלו אינם מושלמים. לעיתים הם מחזירים תוצאות חיוביות שגויות (false positives), במיוחד מפני פרוזה שנכתבה על ידי דוברי אנגלית כשפת אם שאינה שפתם, או על ידי סטודנטים המעדיפים באופן טבעי סגנון רשמי ומחושב. אחוז הזיהוי לעולם לא צריך להיחשב כהוכחה לבד לבגידה. רוב אנשי החינוך משתמשים בתוכנה כרמז אחד מתוך רבים, ולא כ"האקדח המעשן". הכלי תומך בשיקול הדעת האנושי; הוא אינו יכול להחליף אותו.
ניתוח ללא חושב
מודלי שפה גדולים מסכמים עובדות היטב. מה שהם מתקשים לספק הוא חשיבה ביקורתית מתמשכת או רפלקציה אישית אותנטית.
למשל, במטלת היסטוריה, בינה מלאכותית עשויה למנות את הגורמים הכלכליים, הפוליטיים והחברתיים למהפכה בדיוק של ספר לימוד. מה שהיא לא יכולה לעשות בקלות הוא לשקול את הגורמים הללו זה מול זה, לערער על הנרטיב המקובל, או לקשר את האירוע לסוגיה עכשווית שבאמת מעניינת את התלמיד. כותבים אנושיים חושפים את עצמם דרך הספציפיות שלהם. הם מתייחסים לסרט דוקומנטרי שצפו בו, לשיחה עם הורה, או לדפוס שהבחינו בו לאורך שלוש יחידות לימוד שונות. טקסט שנוצר על ידי בינה מלאכותית כמעט ואינו מכיל את העוגנים הללו, כיוון שלמכונה אין חוויות שעליהן היא יכולה להסתמך ואין לה דעות להגן עליהן.
השיחה בת חמש הדקות
אחת השיטות הוותיקות ביותר נותרה היעילה ביותר: לבקש מהתלמיד לדבר על העבודה.
מורה עשוי לקרוא לתלמיד הצידה במהלך