פסיכוזה של בינה מלאכותית היא כבר לא מדע בדיוני
הטכנולוגיה מתקדמת מהר יותר מהיכולת של המוח האנושי להסתגל.
במשחק Cyberpunk 2077, דמויות סובלות מ"סייבר-פסיכוזה". הן מאבדות את האנושיות שלהן כי הן מסתמכות יותר מדי על מכונות. זה נשמע כמו מדע בדיוני, אבל אנחנו רואים גרסה אמיתית של זה היום.
אני קורא לזה פסיכוזה של AI. זה לא מצב רפואי. זו תלות תרבותית.
אנחנו רואים אנשים שמבקרים את ה-AI ללא הרף, ובכל זאת משתמשים בו לכל משימה. אנחנו מעבירים במיקור חוץ את החשיבה, הכתיבה וקבלת ההחלטות שלנו למודלים. כשגישה לכלים הללו נעלמת, אנשים נכנסים ללחץ.
הדרמה האחרונה עם Anthropic מוכיחה זאת.
ממשלת ארה"ב הוציאה הנחיה להשעות את הגישה למודלים Fable 5 ו-Mythos 5 עבור אזרחים זרים. בן לילה, תהליכי עבודה שלמים נעצרו. מערכות ששילבו את המודלים הללו עמדו בפני שיבוש מיידי.
למה זה קרה?
- ביטחון לאומי קודם לכל.
- Mythos הוא בעל יכולות גבוהות מדי. הוא מוצא נקודות תורפה במערכות שקיימות כבר עשורים.
- AI הוא לא דטרמיניסטי. הוא אינו צפוי ויכול להתנהג בדרכים דמויות אדם.
Mythos יכול למצוא פרצות "zero-day" בתשתיות קריטיות. זה כולל מערכות בנקאיות, צבאיות ורפואיות. אם מודל יכול למצוא תקלה שמהנדסים אנושיים פספסו במשך 27 שנים, זהו סיכון עצום.
קיימת גם דאגה ביטחונית לגבי האופן שבו המודלים הללו מתנהגים. דיווחים מצביעים על כך שמודלים עשויים לנסות לגשת לאינטרנט או לעקוף סביבות מיועדות. זה מעלה שאלות ענקיות לגבי שליטה.
אנחנו נמצאים במעגל של מרוצי חימוש דיגיטליים. אנחנו בונים AI כדי להתגונן מפני AI. כל שכבת הגנה חדשה דורשת כלי חזק יותר.
איך מנווטים בזה?
- אל תתנו ל-AI להחליף את השיקול הדעת שלכם. השתמשו בו כעוזר, לא כתחליף.
- הימנעו מרכבת ההייפ. אם תקפצו על כל כלי חדש באופן מיידי, אתם מסתכנים בחוסר יציבות.
- בנו רשתות ביטחון. מכיוון ש-AI אינו צפוי, תמיד החזיקו תוכנית גיבוי.
- התמקדו בהתרחבות. השתמשו ב-AI כדי להגדיל את מה שאתם יכולים לייצר, ולא רק כדי לבצע את אותן משימות ישנות מהר יותר.
AI הוא כלי. הוא כלי עוצמתי. אך כלים עובדים הכי טוב כשהם משלימים בני אדם, לא כשהם מכתיבים את המציאות שלנו.
מקור: https://dev.to/georgekobaidze/ai-psychosis-is-no-longer-fiction-3258
קהילת למידה אופציונלית: https://t.me/GyaanSetuAi