בינה מלאכותית בממשל: חברת הקונגרס לונה מכחישה שהשתמשה ב-Claude לניסוח הצעת חוק ביטחון

נקודת המפגש בין בינה מלאכותית יוצרת (generative AI) לבין ניסוח חקיקה נמצאת תחת בחינה אינטנסיבית בעקבות מחלוקת שקשורה לחברת הקונגרס מפלורידה, אנה פאולינה לונה (Anna Paulina Luna). לאחר שצילומי מסך צצו ורמזו כי Claude של Anthropic היה מעורב בניסוח פרטים על מימון ביטחוני, לונה הבהירה את תפקידה של הבינה המלאכותית בתהליכי העבודה של משרדה.

מחלוקת ה-Claude ותיקון ה-NDAA

המחלוקת פרצה ברשת X (לשעבר טוויטר) כאשר משתמשים שיתפו צילומי מסך של סיכום תיקון הקשור לחוק אישור תקציב הביטחון הלאומי (NDAA) לשנת 2027. הטקסט שדלף הכיל עקבות עיצוב מוזרים: "Claude responded: Requires the Secretary of Defense to designate Department of Defense activities..." (Claude השיב: מחייב את מזכיר ההגנה להגדיר פעילויות של משרד ההגנה...). הניסוח הספציפי הזה העלה חשד חזק לכך שפרומפט (prompt) עובד באמצעות מודל השפה Claude של Anthropic כדי ליצור את הסיכום התיאורי.

התגובות הראשוניות של חברת הקונגרס לונה רמזו כי הצוות השתמש בבינה מלאכותית כדי לתקן טקסט טיוטה ללא עריכה נוספת. עם זאת, ככל שהספק הציבורי גבר בנוגע לשאלה האם נעשה שימוש בבינה מלאכותית לכתיבת חוק ממש, חברת הקונגרס פרסמה הצהרה מתקנת. היא הבהירה כי הבינה המלאכותית שימשה אך ורק לצורך "בדיקת איות ודקדוק" בסיכום התיקון, ולא בטקסט המשפטי של התיקון עצמו.

ההבחנה בין סיכום לבין חקיקה

הבחנה קריטית בוויכוח זה היא ההבדל בין "סיכום תיקון" – כלי הסבר המשמש לקריאה מהירה – לבין "טקסט התיקון בפועל", בעל תוקף משפטי. לונה הדגישה כי במשרדה לא מנוסח שום חקיקה בפועל באמצעות בינה מלאכותית, וציינה כי קיים מנגנון הגנה מוסדי חיוני לכך.

לדברי לונה, כל טקסט רשמי של הצעת חוק מהבית (House of Representatives) מגיע מהמועצה החקיקתית של הבית (House Legislative Council), גוף האסור עליו מן השורת להשתמש בכלי בינה מלאכותית. הבחנה זו חיונית לשמירה על יושרת השפה המשפטית, שבה "הזיה" (hallucination) אחת או טעות בניואנס לשוני של מודל שפה (LLM) עלולות להוביל להשלכות בלתי מכוונות משמעותיות במדיניות הביטחון הלאומי.

המגמה הגוברת של בינה מלאכותית במדיניות ציבורית

תקרית זו אינה מקרה בודד של "זליגת בינה מלאכותית" (AI leakage) בסביבות מקצועיות. הנוף הרחב יותר של הבינה המלאכותית עשיר בעלייה בשימוש לא מורשה או לא מפוקח בבינה מלאכותית במגוון מגזרים של ממשל:

  • התנהלות משפטית פסולה: שופטים תפסו שוב ושוב עורכי דין המשתמשים בצ'אטבוטים כדי לנסח מסמכים משפטיים הכוללים ציטוטים מומצאים.
  • טעויות עירוניות: פקידי עירייה בברזיל אישרו לאחרונה תקנה שנכתבה על ידי ChatGPT מבלי שהם ידעו זאת.
  • שימוש ברמת המדינה: חבר מועצת המדינה אריזונה, אלכסנדר קולודין, הודה בגלוי כי השתמש ב-ChatGPT כדי לסייע בכתיבת חקיקה ברמת המדינה.

ככל שמודלי שפה (LLMs) כמו Claude ו-ChatGPT הופכים לנפוצים בכל מקום בעבודה, הסיכון של "בינה מלאכותית צללית" (shadow AI) – מצב שבו עובדים משתמשים בכלים לא מאושרים למשימות רשמיות – מציב אתגר משמעותי לדיוק ולאחריותיות של מוסדות ציבוריים.

נקודות מרכזיות

  • הבהרת השימוש: חברת הקונגרס אנה פאולינה לונה הכחישה שימוש בבינה מלאכותית לניסוח חקיקת ביטחון, וטענה כי Claude של Anthropic שימש רק לבדיקת איות וסיכום תיקון.
  • מנגנוני הגנה מוסדיים: הטקסט הרשמי של הצעות חוק בבית הנבחרים מנוסח על ידי המועצה החקיקתית של הבית, האסורה על שימוש בבינה מלאכותית כדי להבטיח דיוק משפטי.
  • סיכון מערכתי: התקרית מדגישה מגמה גוברת של שילוב בינה מלאכותית לא מפוקחת בחוק ובממשל, החל ממסמכים משפטיים ועד לתקנות עירוניות.