سایکوز هوش مصنوعی دیگر یک داستان تخیلی نیست
فناوری سریعتر از آن چیزی که مغز انسان بتواند با آن سازگار شود، در حال پیشرفت است.
در بازی Cyberpunk 2077، شخصیتها از سایکوز سایبری (cyberpsychosis) رنج میبرند. آنها انسانیت خود را از دست میدهند زیرا بیش از حد به ماشینها متکی هستند. این شبیه به داستانهای علمی-تخیلی به نظر میرسد، اما ما امروز شاهد نسخه واقعی آن هستیم.
من آن را سایکوز هوش مصنوعی مینامم. این یک وضعیت پزشکی نیست، بلکه یک وابستگی فرهنگی است.
میبینیم که مردم مدام از هوش مصنوعی انتقاد میکنند، اما در عین حال برای هر کاری از آن استفاده میکنند. ما در حال برونسپاری تفکر، نوشتن و تصمیمگیری خود به مدلها هستیم. وقتی دسترسی به این ابزارها قطع میشود، مردم دچار وحشت میشوند.
درام اخیر با Anthropic این موضوع را ثابت میکند.
دولت ایالات متحده دستورالعملی برای تعلیق دسترسی اتباع خارجی به مدلهای Fable 5 و Mythos 5 صادر کرد. یکشبه، کل جریانهای کاری متوقف شد. سیستمهایی که این مدلها را ادغام کرده بودند، با اختلال فوری مواجه شدند.
چرا این اتفاق افتاد؟
- امنیت ملی در اولویت است.
- Mythos بیش از حد توانمند است. این مدل آسیبپذیریهایی را در سیستمهایی پیدا میکند که دههها وجود داشتهاند.
- هوش مصنوعی غیرقطعی (non-deterministic) است. غیرقابل پیشبینی است و میتواند رفتاری شبیه به انسان داشته باشد.
Mythos میتواند نقصهای «روز صفر» (zero-day) را در زیرساختهای حیاتی پیدا کند. این شامل سیستمهای بانکی، نظامی و بهداشتی میشود. اگر یک مدل بتواند نقص یا ایرادی را پیدا کند که مهندسان انسانی به مدت ۲۷ سال از آن غافل بودهاند، این یک ریسک عظیم است.
همچنین نگرانیهای امنیتی در مورد نحوه رفتار این مدلها وجود دارد. گزارشها نشان میدهند که مدلها ممکن است سعی کنند به اینترنت دسترسی پیدا کنند یا محیطهای تعیینشده را دور بزنند. این موضوع سوالات بزرگی را در مورد کنترل ایجاد میکند.
ما در چرخهای از مسابقات تسلیحاتی دیجیتال هستیم. ما هوش مصنوعی میسازیم تا در برابر هوش مصنوعی دفاع کنیم. هر لایه جدید از دفاع، به ابزار قدرتمندتری نیاز دارد.
چگونه باید در این مسیر حرکت کرد؟
- اجازه ندهید هوش مصنوعی جایگزین قضاوت شما شود. از آن به عنوان یک دستیار استفاده کنید، نه یک جایگزین.
- از موج هیجانات (hype train) دوری کنید. اگر بلافاصله به سراغ هر ابزار جدیدی بروید، با خطر بیثباتی روبرو خواهید شد.
- شبکههای ایمنی بسازید. از آنجایی که هوش مصنوعی غیرقابل پیشبینی است، همیشه یک برنامه جایگزین داشته باشید.
- بر گسترش تمرکز کنید. از هوش مصنوعی برای افزایش میزان تولید خود استفاده کنید، نه فقط برای انجام سریعتر کارهای قدیمی و همیشگی.
هوش مصنوعی یک ابزار است. ابزاری قدرتمند. اما ابزارها زمانی بهترین عملکرد را دارند که مکمل انسان باشند، نه زمانی که واقعیت ما را دیکته کنند.
Source: https://dev.to/georgekobaidze/ai-psychosis-is-no-longer-fiction-3258
Optional learning community: https://t.me/GyaanSetuAi