מדוע צ'אטבוטים של בינה מלאכותית הם לא החברים שלכם, לפי מרידית ויטאקר מ-Signal

ככל שמודלי שפה גדולים (LLMs) משתלבים יותר ויותר בתהליכי העבודה הדיגיטליים היומיומיים שלנו, הגבול בין אינטראקציה אנושית לתגובה מכונה הולך ומטשטש. מרידית ויטאקר, נשיאת Signal, מזהירהתראה חמורה למשתמשים: אל תטעו בין מידול סטטיסטי מתוחכם לבין חברות אמיתית או אינטליגנציה מודעת.

אשליית המודעות ב-LLMs

בראיון שנערך לאחרונה עם Bloomberg, מרידית ויטאקר התייחסה לנטייה הגוברת להאנשה (anthropomorphize) של מודלי בינה מלאכותית כמו ChatGPT של OpenAI ו-Claude של Anthropic. היא הדגישה כי למרות הזרימה השיחתית שלהם, למערכות אלו חסרים תודעה ויכולת פעולה (agency). "אלו לא החברים שלכם. אלו לא ישויות מודעות. אלו לא משתתפים בשיחה בעלי תחושת קיום," הצהירה ויטאקר, והזכירה למשתמשים שצ'אטבוטים הם למעשה מנועים מתוחכמים שנועדו לחזות את ה-token הבא ברצף.

דאגתה של ויטאקר חורגת מעבר להגדרות פילוסופיות ומתייחסת להשפעה הקוגניטיבית של הבינה המלאכותית על היצירתיות האנושית. בעוד שהיא מודה בשימוש בכלי בינה מלאכותית למשימות קטנות, כמו עיצוב מסמכים, היא מסרבת להשתמש בהם לחשיבה ברמה גבוהה. היא טוענת כי הסתמכות על בינה מלאכותית לצורך גיבוש רעיונות (ideation) מסתכנת ב"סגירה" של תהליך החשיבה האנושי, שכן מודלים אלו פועלים על ידי "מיצוע של מה שכבר קיים", מה שעלול לחנוק חשיבה מקורית שאינה נגזרת מקיים.

מחיר הפרטיות של בינה מלאכותית "סוכנותית" (Agentic)

השיחה קיבלה מהלך ביקורתי יותר כשנדונו עלייתה של ה-"AI Agents" – מערכות שנועדו לפעול באופן אוטונומי בשם המשתמש. ויטאקר התנגדה ספציפית לתחזית של מוסתפא סולימאן, מנכ"ל Microsoft AI, שהציע שכלים כמו Microsoft Copilot יוכלו בסופו של דבר לנהל משימות אישיות מורכבות, כמו קניות לחגים.

ויטאקר הצביעה על פשרות הפרטיות העצומות הטבועות ביכולות "סוכנותיות" כאלה. כדי שבינה מלאכותית תנהל את הקניות או את לוח הזמנים של משתמש, היא זקוקה לגישה נרחבת לנתונים רגישים ביותר, הכוללים:

• מידע אישי על כרטיסי אשראי והיסטוריית גלישה.
• תקשורת בזמן אמת באמצעות אפליקציות כמו Signal.
• יומנים פרטיים וכתובות מגורים.

From a security standpoint, Whittaker views this level of integration as a major vulnerability. She noted that allowing an AI to monitor family group chats or message siblings on a user's behalf would essentially constitute a "backdoor" into a user's most private digital life.

Implications for the AI Ecosystem

Whittaker’s stance highlights a growing tension in the tech industry: the race for "agentic" utility versus the fundamental right to privacy and cognitive autonomy. As developers push toward models that can operate across multiple applications, the industry faces a critical question: can we achieve seamless AI assistance without creating a centralized point of total surveillance? For developers and founders, this underscores the necessity of building "privacy-first" AI architectures that prioritize local processing and strict data silos over pervasive, all-access integration.

Key Takeaways

• Avoid Anthropomorphism: AI models are statistical tools, not sentient beings, and treating them as "friends" can lead to a misunderstanding of their capabilities and risks.
• Protect Cognitive Autonomy: Over-reliance on AI for brainstorming and problem-solving may lead to a "regression to the mean," where human creativity is eclipsed by averaged datasets.
• The Agentic Privacy Gap: The push for autonomous AI agents requires unprecedented access to personal data, creating significant security backdoors and privacy vulnerabilities.