وزارت امور خارجه ایالات متحده در یک کنفرانس دیپلماتیک در برزیل، نقشه‌ای تولیدشده توسط هوش مصنوعی را نمایش داد که چندین کشور آفریقایی را به اشتباه نام‌گذاری کرده بود. این خطا، که نمونه‌ای کلاسیک از «توهم» (hallucination) هوش مصنوعی است، یک لغزش فنی را به پرسشی درباره اعتبار دیپلماتیک تبدیل کرد.

حادثه‌ای در معرض دید همگان

در جریان یک نشست سطح بالا، یکی از مقامات وزارت امور خارجه از اسلایدی استفاده کرد که در نقشه‌برداری خود کاملاً به یک ابزار هوش مصنوعی مولد متکی بود. این تصویر چندین کشور آفریقایی را به اشتباه نام‌گذاری کرده بود. این حادثه نشان داد که چگونه یک گرافیک اشتباه می‌تواند اعتبار نهادی را که وظیفه‌اش پیمایش در حساس‌ترین عرصه‌های سیاسی جهان است، تضعیف کند.

نقشه‌ها چیزی فراتر از تصویر هستند

در فعالیت‌های دیپلماتیک، نقشه‌ها به عنوان قراردادهای بصری عمل می‌کنند. مرزهای ترسیم‌شده روی کاغذ، نشان‌دهنده به رسمیت شناختن حاکمیت، تعیین قلمرو قضایی و اغلب حامل وزن توافقات تاریخی هستند. وقتی نقشه‌ای قلمرو یک کشور را به اشتباه نشان می‌دهد، ناظران این اشتباه را به عنوان عدم احترام می‌خوانند، نه یک غلط تایپی بی‌خطر.

سوگیری پنهان در پسِ پیکسل‌ها

اکثر مدل‌های زبانی بزرگ و مولد‌های تصویر بر روی داده‌های استخراج‌شده از اینترنت عمومی آموزش می‌بینند. این مجموعه‌داده‌ها بیش از حد بر منابع غرب‌محور تمرکز دارند و اغلب مناطق کم‌بازتاب را نادیده گرفته یا ساده‌سازی می‌کنند. نتیجه این امر، یک نقطه کور سیستماتیک برای بسیاری از بخش‌های «جنوب جهانی» (Global South) است. زمانی که ابزار هوش مصنوعی وزارت امور خارجه آن نقشه ناقص را تولید کرد، این موضوع بازتاب‌دهنده آن شکاف داده‌ای بود، نه یک انتخاب سیاستی آگاهانه. این واقعه بر یک مسئله گسترده‌تر یعنی حاکمیت دیجیتال تأکید می‌کند: اتکا به هوش مصنوعی با منشأ خارجی می‌تواند سوگیری‌های سازندگان آن را بازتولید کند.

حضور انسان در چرخه: شبکه ایمنی مفقوده

مستقیم‌ترین راه حل، بازبینی اجباری توسط کارشناسان موضوعی پیش از انتشار هرگونه محتوای بصری تولیدشده توسط هوش مصنوعی است. یک نقطه بازرسی با رویکرد «حضور انسان در چرخه» (human-in-the-loop)، یک نقشه‌بردار، تحلیلگر منطقه‌ای یا دیپلمات ارشد را وادار می‌کند تا تأیید کند که خروجی با استانداردهای پذیرفته‌شده مطابقت دارد. این پروتکل راحتیِ کار با هوش مصنوعی را از بین نمی‌برد؛ بلکه صرفاً تضمین می‌کند که اعتماد به فناوری، جایگزین اعتماد به فرآیند نشود.

پیامدهای این حادثه برای هند و سایر قدرت‌های نوظهور

هند که به سرعت در حال گسترش زیرساخت‌های عمومی دیجیتال خود و تثبیت جایگاه خود به عنوان پیشرو در عرصه جهانی هوش مصنوعی است، می‌تواند درس‌های ملموس متعددی بگیرد:

  • اولویت‌بندی توسعه هوش مصنوعی حاکمیتی. ساخت مدل‌ها و مجموعه‌داده‌های بومی، وابستگی به ابزارهایی را که ممکن است سوگیری‌های خارجی را در خود جای دهند، کاهش می‌دهد.
  • گنجاندن چارچوب‌های تأیید. هرگونه محتوای دیپلماتیکِ کمک‌گرفته از هوش مصنوعی باید پیش از انتشار عمومی، از یک لایه بازبینی اختصاصی عبور کند.
  • حمایت از استانداردهای اخلاقی. هند می‌تواند با فشار برای ایجاد هنجارهای بین‌المللی که مستلزم «حسابرسی دقت» (accuracy audits) در هوش مصنوعی مورد استفاده در حکمرانی است، کتاب قواعدی را شکل دهد که از منافع جنوب جهانی محافظت می‌کند.

این گام‌ها از اعتبار ملی محافظت کرده و به آینده‌ای دیجیتال و عادلانه‌تر کمک می‌کنند که در آن فناوری بازتاب‌دهنده طیف گسترده‌تری از دیدگاه‌ها باشد.

نگاه به آینده

نتیجه‌گیری: هوش مصنوعی می‌تواند کار دیپلماتیک را تسریع کند، اما بدون یک نقطه بازرسی اجباری با حضور انسان در چرخه، یک گرافیک اشتباه می‌تواند به اعتبار آسیب برساند، تنش‌های ژئوپلیتیک را تشدید کند و سوگیری‌های نهفته در فناوری را آشکار سازد. امن‌ترین مسیر پیش رو این است که با هوش مصنوعی به عنوان یک دستیار قدرتمند برخورد شود، نه جایگزینی برای قضاوت کارشناسان.