باگ نشت پرامپت در Anthropic باعث افشای داده‌های کاربران به مدت یک هفته شد.
چرا این نقض امنیتی اهمیت دارد
رابط کاربری مدل Anthropic به توسعه‌دهندگان اجازه می‌دهد «پرامپت‌ها» (prompts) را ارسال کنند؛ یعنی همان متنی که پاسخ یک مدل زبانی را هدایت می‌کند. در این حادثه، یک نقص در ذخیره‌سازی باعث شد افراد غیرمجاز بتوانند به مدت هفت روز آن پرامپت‌ها را بخوانند. این نشت ناشی از یک هک گسترده نبود؛ بلکه یک بی‌دقتی کوچک در نحوه ذخیره و فراخوانی پرامپت‌ها، راه را باز کرد.
چه مشکلی پیش آمد
جدا نگه داشتن داده‌های کاربر از وزن‌های مدل (model weights)، میزان قرارگیری در معرض خطر را محدود می‌کند. ایجاد مسیرهای حسابرسی (audit trails) نیز باعث شناسایی زودهنگام فعالیت‌های غیرعادی می‌شود.
اقدامات فوری برای استارتاپ‌های هوش مصنوعی
- مقاوم‌سازی مدیریت پرامپت – با هر پرامپت ورودی مانند یک ورودی حساس برخورد کنید. آن را در حالت ذخیره‌شده (at rest) رمزنگاری کنید، حقوق خواندن/نوشتن را به کوچک‌ترین مجموعه از سرویس‌ها محدود کنید و اطمینان حاصل کنید که فقط موتور اجرای مدل می‌تواند آن را بازیابی کند.
- جداسازی داده‌های کاربر از وزن‌های مدل – پرامپت‌ها را در یک مخزن اختصاصی ذخیره کنید که از نظر فیزیکی و منطقی از فایل‌های مدل متمایز باشد. این جداسازی، شعاع آسیب (blast radius) هرگونه نقض امنیتی را محدود می‌کند.
- ایجاد مسیرهای حسابرسی – هرگونه دسترسی به ذخیره‌ساز پرامپت را همراه با برچسب زمانی، شناسه کاربر و IP منبع ثبت (Log) کنید. تحلیل‌های بلادرنگ (real-time) اجرا کنید که در صورت مشاهده حجم غیرعادی خواندن یا دسترسی از سرویس‌های غیرمنتظره، هشدار صادر کنند.
آنچه باید در آینده زیر نظر داشت
خلاصه کلام: یک نقص واحد در مدیریت پرامپت می‌تواند منجر به افشای داده‌ها به مدت یک هفته شود. بنیان‌گذاران هوش مصنوعی باید همان دقت و سخت‌گیری را که در سایر سیستم‌های داده‌های کاربر به کار می‌برند، در ذخیره‌سازی پرامپت‌ها نیز اعمال کنند، در غیر این صورت اشتباه پرهزینه Anthropic را تکرار خواهند کرد.