HiddenLayer در یک دورۀ جذب سرمایه سری B به مبلغ ۱۰۰ میلیون دلار موفق به جذب سرمایه شد که توسط Delta-v Capital رهبری شد و شرکت‌هایی همچون M12 مایکروسافت، Morgan Stanley و Ten Eleven Ventures نیز در آن مشارکت داشتند. این سرمایه قرار است به پلتفرم امنیت زمانِ اجرای (runtime) هوش مصنوعی این شرکت کمک کند، زیرا سازمان‌ها در حال وارد کردن هوش مصنوعی مولد و عوامل خودمختار (autonomous agents) به مرحله تولید هستند.

سطح حمله پیرامون مدل‌های هوش مصنوعی در حال انفجار است. شرکت‌هایی که زمانی تنها از دفترچه‌های (notebooks) اثبات مفهوم استفاده می‌کردند، اکنون مدل‌های زبانی بزرگ (LLMs) و جریان‌های کاری مبتنی بر عامل (agentic workflows) را در سرویس‌های مشتری‌محور، خط لوله‌های تصمیم‌گیری داخلی و حتی سیستم‌های سطح دفاعی ادغام می‌کنند. هر نقطه انتهایی (endpoint) جدید — از رابط پرامپت (prompt interface) و ادغام ابزارها گرفته تا نسخه‌های مدل — فرصتی برای نفوذ مهاجمان فراهم می‌کند و بازار ابزارهای دفاعی در برابر این نقاط انتهایی، از خودِ فناوری پیشی گرفته است.

چرا امنیت هوش مصنوعی از تئوری به یک ضرورت تبدیل شد

سه سال پیش، اکثر تحلیلگران امنیتی با تهدیدات خاص هوش مصنوعی همچون یک موضوع پژوهشی و کنجکاوی‌برانگیز برخورد می‌کردند. ایده اینکه حملات خصمانه (adversarial attacks) در مقیاس بزرگ رخ خواهند داد، بیشتر مورد بحث بود تا اقدام عملی. اکنون گارتنر پیش‌بینی می‌کند که هزینه‌کرد سازمان‌ها برای ابزارهای امنیت هوش مصنوعی در سال جاری به ۲.۸۳ میلیارد دلار برسد که جهشی ۸۳ درصدی نسبت به سال گذشته است و تا سال آینده به ۴.۷۸ میلیارد دلار خواهد رسید. این اعداد نشان‌دهنده تغییر رویکرد از پروژه‌های آزمایشی به استقرار در سیستم‌های حیاتی (mission-critical) است و نشان می‌دهد که سازمان‌ها دریافته‌اند یک مدلِ هک‌شده می‌تواند بسیار پرهزینه‌تر از هزینه‌های ابزارهای پیشگیرانه باشد.

رشد HiddenLayer بازتاب‌دهنده همین روند است. کریس سستی‌تو (Chris Sestito)، مدیرعامل شرکت، می‌گوید درآمد سالانه تکرارشونده (ARR) این شرکت در دوازده ماه گذشته بیش از ده برابر شده و اکنون در محدوده «ده‌ها میلیون دلار» قرار دارد. بیش از ۹۰ درصد از این افزایش مربوط به مشتریان جدید است؛ از جمله مؤسسات مالی، شرکت‌های بزرگ فناوری، وزارت دفاع ایالات متحده و جامعه اطلاعاتی. همچنین یکی از مشتریان فاش‌نشده که یک مدل پیشرو (frontier model) را برای بیش از ۷۰۰ میلیون کاربر هفتگی تأمین می‌کند، با این شرکت قرارداد بسته است که نشان‌دهنده وسعت این مشکل است.

از مقاوم‌سازی مدل تا محافظت از عوامل خودمختار

امنیت سنتی یادگیری ماشین بر ایمن‌سازی خط لوله آموزش و شناسایی ورودی‌های خصمانه که پیش‌بینی‌ها را به شکلی ظریف منحرف می‌کنند، تمرکز داشت. HiddenLayer همچنان این موارد پایه — شامل کشف، حفاظت زمان اجرا (runtime protection)، شبیه‌سازی حمله و بررسی‌های زنجیره تأمین — را پوشش می‌دهد، اما اکنون با ریسک‌های منحصربه‌فرد هوش مصنوعی مولد نیز مقابله می‌کند.

  • تزریق پرامپت (Prompt injection) – ورودی‌های مخربی که یک مدل را مجبور به اجرای دستورات ناخواسته یا افشای داده‌های محرمانه می‌کنند. این پلتفرم پرامپت‌ها را پیش از رسیدن به مدل پاک‌سازی کرده و خروجی‌ها را برای بررسی تخلفات از سیاست‌های امنیتی نظارت می‌کند.
  • دستکاری عامل (Agent manipulation) – عوامل خودمختاری که ابزارها، APIها و منابع داده را به هم متصل می‌کنند، می‌توانند در حین اجرا مورد سوءاستفاده قرار گیرند و باعث اقدامات مخرب یا نشت داده‌ها شوند. HiddenLayer در هر مرحله از جریان کاری، بررسی‌های سیاستی را تزریق می‌کند تا اقدامات ناقض قوانین تعریف‌شده را متوقف کند.
  • استفاده از ابزارهای مخرب – عوامل هوش مصنوعی به‌طور فزاینده‌ای به پلاگین‌های خارجی، مفسرهای کد یا ماژول‌های بازیابی (retrieval modules) متکی هستند. این راهکار، این ادغام‌ها را برای شناسایی رفتارهای غیرعادی، مانند بازگرداندن محتوای غیرمنتظره توسط یک ماژول بازیابی، زیر نظر می‌گیرد.

مدل‌های متن‌باز (open-source) و مدل‌های با وزن‌های باز (open-weight) چالش خاصی ایجاد می‌کنند. از آنجایی که فایل‌های مدل به‌راحتی قابل توزیع هستند، مهاجمان می‌توانند کدهای پنهان یا وزن‌های مخربی را در آن‌ها جاسازی کنند که پس از بارگذاری مدل، اجرا شوند. HiddenLayer تقریباً ۵۰ فرمت فایل هوش مصنوعی را تجزیه و اسکن می‌کند تا به دنبال «مدل‌های پنهان در دل مدل‌ها» بگردد که می‌توانند به عنوان درهای پشتی (backdoors) عمل کنند. این دفاع از زنجیره تأمین، مصنوعات آلوده را پیش از آنکه در مرحله تولید اجرا شوند، متوقف می‌کند.

سرمایه جدید چگونه هزینه خواهد شد

HiddenLayer مبلغ ۱۰۰ میلیون دلار را در سه محور تخصیص خواهد داد:

  1. فروش و توزیع – تبدیل یک تلاش بازاریابی محدود به یک موتور فروش سازمانی گسترده‌تر، برای رسیدن به بخش‌هایی که تازه در حال پذیرش هوش مصنوعی در مقیاس بزرگ هستند.
  2. تحقیقات مهندسی – تمرکز مضاعف بر منطق شناسایی بردارهای حمله نوظهور، مانند تزریق پرامپت چندوجهی (multi-modal prompt injection) و حملات هماهنگ بین‌عاملی (cross-agent coordination attacks).
  3. گسترش جغرافیایی – ایجاد حضور در اروپا، خاورمیانه و آفریقا (EMEA)، جایی که فشارهای نظارتی پیرامون شفافیت و امنیت هوش مصنوعی در حال افزایش است.

سستی‌تو پیشنهاد HiddenLayer را به «EDR برای هوش مصنوعی» تشبیه می‌کند. همان‌طور که عوامل EDR فرآیندهای سیستم‌عامل را برای فعالیت‌های مخرب زیر نظر می‌گیرند، محافظ زمان اجرای HiddenLayer نیز فراخوانی‌های استنتاج مدل (model inference)، فراخوانی ابزارها و جریان‌های داده را برای شناسایی تخلفات سیاستی نظارت می‌کند.

نقطه مقابل: آیا غول‌های ابری این بازار تخصصی را خواهند بلعید؟

شرکت اذعان می‌کند که ارائه‌دهندگان بزرگ ابری — AWS، Azure و Google Cloud — می‌توانند محافظت‌های زمان اجرا (runtime protections) مشابهی را در سرویس‌های مدیریت‌شده هوش مصنوعی خود بگنجانند. اگر یک فروشنده ابری فیلترهای داخلی برای جلوگیری از تزریق دستور (prompt-injection) یا اعمال سیاست‌های عامل (agent-policy enforcement) ارائه دهد، سازمان‌ها ممکن است ارزش کمتری برای افزونه‌های شخص ثالث قائل شوند.

Sestito استدلال می‌کند که کنترل‌های حاکمیتی، هویت و سیاست‌ها به اندازه کافی پیچیده باقی خواهند ماند تا استفاده از راهکارهای تخصصی را توجیه کنند. او می‌گوید: «وقتی با بارهای کاری چندمستاجری (multi-tenant) و با ارزش بالا سروکار دارید که از مرزهای سازمانی عبور می‌کنند، یک پیشنهاد ابری با مدل واحد برای همه (one-size-fits-all) نمی‌تواند تمام جزئیات انطباق (compliance) را پوشش دهد.» او معتقد است که یک لایه امنیتی اختصاصی می‌تواند سریع‌تر از چرخه‌های محصول عظیم ابرمقیاس‌ها (hyperscalers) حرکت کند و ادغام عمیق با ابزارهای موجود مدیریت امنیت رویدادها و اطلاعات (SIEM)، پلتفرم را کارآمد نگه خواهد داشت.

آنچه باید در ماه‌های آینده زیر نظر داشت

  • سرعت پذیرش – اگر ابزارهای امنیتی HiddenLayer به پیش‌نیاز قراردادهای تدارکات هوش مصنوعی تبدیل شوند، مجوزهای سازمانی، به‌ویژه در بخش‌های تحت نظارت، می‌تواند به شدت افزایش یابد.
  • حرکات رقابتی – منتظر اطلاعیه‌های ارائه‌دهندگان بزرگ ابری درباره مقاوم‌سازی بومی (native) زمان اجرای هوش مصنوعی باشید. یک پیشنهاد بسته‌ای (bundled) می‌تواند HiddenLayer را مجبور کند تا به سمت استقرار در ابر ترکیبی (hybrid-cloud) یا در محل (on-premises) تغییر مسیر دهد.
  • فشار نظارتی – با تدوین استانداردهای امنیتی مخصوص هوش مصنوعی توسط دولت‌ها، الزامات انطباق ممکن است صراحتاً به محافظت در زمان اجرا اشاره کنند که این امر برای فروشندگانی مانند HiddenLayer یک باد موافق نظارتی خواهد بود.
  • تکامل تهدیدات – تکنیک‌های حمله جدید — مانند تزریق دستور هماهنگ‌شده در چندین عامل یا حملات زنجیره تأمین که وزن‌های مدل را در مقیاس بالا مسموم می‌کنند — هر موتور تشخیص را به چالش خواهد کشید. سرعتی که HiddenLayer مدل‌های تشخیص خود را با آن تطبیق می‌دهد، یک تمایز کلیدی خواهد بود.

خلاصه کلام

جذب سرمایه ۱۰۰ میلیون دلاری HiddenLayer نشان می‌دهد که بازار امنیت زمان اجرای مخصوص هوش مصنوعی، از بحث‌های آکادمیک به یک ضرورت تجاری تبدیل شده است. با گسترش هوش مصنوعی سازمانی از مدل‌های ایزوله به سمت عامل‌های پیچیده و غنی از ابزار، محافظت مداوم و سیاست‌محور به اندازه امنیت سنتی نقاط انتهایی (endpoint security) ضروری می‌شود. اینکه آیا این استارتاپ از دشمنان پیچیده و مسابقه تسلیحات امنیتی میان غول‌های ابری پیشی می‌گیرد یا خیر، تعیین خواهد کرد که آیا به عنوان «EDR برای هوش مصنوعی» باقی می‌ماند یا به ویژگی دیگری تبدیل می‌شود که در یک پلتفرم بزرگ‌تر ادغام شده است. فصل آینده مشخص خواهد کرد که آیا فروشندگان امنیتی اختصاصی هوش مصنوعی می‌توانند جایگاه ماندگاری در اکوسیستمی که هنوز در حال تعریف مرزهای خود است، ایجاد کنند یا خیر.