عرضت وزارة الخارجية الأمريكية خريطة تم إنشاؤها بواسطة الذكاء الاصطناعي في مؤتمر دبلوماسي في البرازيل، تضمنت تسميات خاطئة لعدة دول أفريقية. وقد حول هذا الخطأ، الذي يعد حالة نموذجية لما يُعرف بـ "هلوسة" الذكاء الاصطناعي، زلة تقنية إلى تساؤل حول المصداقية الدبلوماسية.

الحادثة في وضح النهار

خلال تجمع رفيع المستوى، استخدم مسؤول في وزارة الخارجية شريحة عرض اعتمدت بالكامل على أداة ذكاء اصطناعي توليدي لرسم الخرائط. تضمنت الصورة تسميات خاطئة لعدة دول أفريقية. وأظهر الحادث كيف يمكن لرسم بياني واحد خاطئ أن يقوض سلطة وكالة تكمن مهمتها في التعامل مع أكثر التضاريس السياسية حساسية في العالم.

الخرائط أكثر من مجرد صور

في الممارسة الدبلوماسية، تعمل الخرائط كعقود بصرية. فالحدود المرسومة على الورق تشير إلى الاعتراف بالسيادة، وتحدد النطاق القضائي، وغالباً ما تحمل ثقل الاتفاقيات التاريخية. وعندما تُسيء الخريطة تمثيل أراضي دولة ما، يفسر المراقبون هذا الخطأ على أنه نقص في الاحترام، وليس مجرد خطأ مطبعي غير ضار.

التحيز الخفي وراء البكسلات

تتدرب معظم النماذج اللغوية الكبيرة ومولدات الصور على بيانات تم جمعها من الإنترنت العام. وتمثل مجموعات البيانات هذه المصادر التي تركز على الغرب بشكل مفرط، وغالباً ما تغفل أو تبسط المناطق التي تحظى بتغطية أقل. والنتيجة هي وجود نقطة عمياء منهجية للعديد من أجزاء الجنوب العالمي. عندما أنتجت أداة الذكاء الاصطناعي التابعة لوزارة الخارجية الخريطة المعيبة، فقد عكس ذلك تلك الفجوة في البيانات بدلاً من كونه خياراً سياسياً واعياً. وتسلط هذه الواقعة الضوء على قضية أوسع تتعلق بالسيادة الرقمية: فالاعتماد على ذكاء اصطناعي من أصل أجنبي يمكن أن يعيد إنتاج تحيزات صانعيه.

العنصر البشري في الحلقة: شبكة الأمان المفقودة

الحل الأكثر مباشرة هو إجراء مراجعة إلزامية من قبل خبراء متخصصين قبل نشر أي محتوى مرئي تم إنشاؤه بواسطة الذكاء الاصطناعي. إن نقطة تفتيش "العنصر البشري في الحلقة" (human-in-the-loop) تفرض على رسام الخرائط، أو المحلل الإقليمي، أو الدبلوماسي رفيع المستوى التحقق من أن المخرجات تتوافق مع المعايير المقبولة. هذا البروتوكول لا يلغي ميزة الراحة التي يوفرها الذكاء الاصطناعي؛ بل يضمن ببساطة ألا تحل الثقة في التكنولوجيا محل الثقة في العملية.

ماذا تعني هذه الواقعة للهند والقوى الناشئة الأخرى

يمكن للهند، التي تعمل على توسيع بنيتها التحتية الرقمية العامة بسرعة وتضع نفسها كقائد في ساحة الذكاء الاصطناعي العالمية، استخلاص عدة دروس ملموسة:

  • إعطاء الأولوية لتطوير ذكاء اصطناعي سيادي. إن بناء نماذج ومجموعات بيانات محلية يقلل من الاعتماد على الأدوات التي قد تدمج تحيزات خارجية.
  • إدراج أطر التحقق. يجب أن تمر أي مواد دبلوماسية مدعومة بالذكاء الاصطناعي عبر طبقة مراجعة مخصصة قبل إصدارها للجمهور.
  • دعم المعايير الأخلاقية. من خلال الدفع باتجاه معايير دولية تتطلب "تدقيق الدقة" للذكاء الاصطناعي المستخدم في الحوكمة، يمكن للهند صياغة مجموعة قواعد تحمي مصالح الجنوب العالمي.

تحمي هذه الخطوات السمعة الوطنية وتساهم في مستقبل رقمي أكثر إنصافاً حيث تعكس التكنولوجيا مجموعة أوسع من وجهات النظر.

نظرة إلى المستقبل

الخلاصة: يمكن للذكاء الاصطناعي تسريع العمل الدبلوماسي، ولكن بدون نقطة تفتيش إلزامية تتضمن عنصراً بشرياً، يمكن لرسم بياني واحد خاطئ أن يضر بالمصداقية، ويؤجج التوترات الجيوسياسية، ويكشف التحيزات المتأصلة في التكنولوجيا. إن المسار الأكثر أماناً للمضي قدماً هو التعامل مع الذكاء الاصطناعي كمساعد قوي، وليس بديلاً عن التقدير الخبير.