تین الفاظ

ایک محقق نے Anthropic کے سب سے طاقتور AI ماڈل میں تین الفاظ ٹائپ کیے: fix this code۔

نوے منٹ کے اندر، امریکی حکومت نے اس ماڈل کو بند کر دیا۔

یہ کمزوری ایک سادہ سا پرامپٹ (prompt) تھی۔ یہ کوئی پیچیدہ حملہ نہیں تھا۔ ماڈل نے سائبر سیکیورٹی کا ایسا ڈیٹا فراہم کیا جسے اس کے حفاظتی نظام کو بلاک کر دینا چاہیے تھا۔

محکمہ تجارت نے ماڈل کو روکنے کے لیے ایکسپورٹ کنٹرول اتھارٹی کا استعمال کیا۔ انہوں نے Anthropic کو حکم دیا کہ تمام غیر ملکی شہریوں کی اس تک رسائی پر پابندی لگا دی جائے۔ اس میں Anthropic کے اپنے کچھ انجینئرز بھی شامل تھے۔ Anthropic نے اپنے عملے کو الگ کرنے سے بچنے کے لیے ماڈلز کو آف لائن کر دیا۔

سرکاری وجہ قومی سلامتی تھی۔ لیکن اس کہانی کی ایک گہری تہہ بھی ہے۔

Amazon نے اس بائی پاس (bypass) کا پتہ لگایا۔ Amazon کے CEO Andy Jassy نے حکومتی حکام کو اس بارے میں بتایا۔

Amazon، Anthropic میں ایک بڑا سرمایہ کار ہے۔ Amazon وہ کلاؤڈ انفراسٹرکچر بھی فراہم کرتا ہے جسے Anthropic استعمال کرتا ہے۔ سب سے اہم بات یہ ہے کہ Amazon کی اپنی AI مصنوعات Anthropic کے ساتھ مقابلہ کرتی ہیں۔

یہ معلومات ایک حریف سے حکومت تک پہنچ گئیں۔ اس عمل میں اس کمپنی کو نظر انداز کر دیا گیا جس نے ماڈل بنایا تھا۔

یہ واقعہ تین اہم چیزیں ظاہر کرتا ہے:

AI کمپنیوں کا خیال تھا کہ یا تو وہ خود کو ریگولیٹ کریں گی یا حکومتی پالیسی کا سامنا کریں گی۔ انہوں نے تیسرے آپشن کے بارے میں منصوبہ بندی نہیں کی تھی۔

انہوں نے کارپوریٹ انٹیلی جنس کے ذریعے اچانک مداخلت سے پیدا ہونے والی ریگولیشن کے لیے منصوبہ بندی نہیں کی تھی۔

حفاظتی محققین AI کے لیے حفاظتی حدود (guardrails) چاہتے تھے۔ وہ یہ سمجھنے میں ناکام رہے کہ اصل میں انہیں کون بنائے گا۔

ماخذ: https://dev.to/thesythesis/the-three-words-3ijl

اختیاری لرننگ کمیونٹی: https://t.me/GyaanSetuAi