HiddenLayer raised $100 million in a Series B round, led by Delta-v Capital with participation from Microsoft’s M12, Morgan Stanley and Ten Eleven Ventures. The cash will fuel its AI runtime security platform as enterprises push generative AI and autonomous agents into production.
The attack surface around AI models is exploding. Companies that once ran proof-of-concept notebooks now embed large language models and agentic workflows into customer-facing services, internal decision pipelines and even defense-grade systems. Every new endpoint—prompt interface, tool integration, model version—offers a foothold for adversaries, and the market for tools that defend those endpoints is outpacing the technology itself.
Why AI security moved from theory to necessity
Three years ago most security analysts treated AI-specific threats as a research curiosity. The idea that adversarial attacks would scale was debated more than acted upon. Gartner now forecasts enterprise spending on AI security tools will hit $2.83 billion this year, an 83 percent jump from last year, and climb toward $4.78 billion by next year. Those numbers show a shift from experimental pilots to mission-critical deployments and signal that organisations realize a compromised model can cost far more than preventative tooling.
HiddenLayer’s growth mirrors that trend. CEO Chris Sestito says the company’s annual recurring revenue has multiplied more than tenfold in the past twelve months, now sitting in the “tens of millions” range. Over 90 percent of that increase comes from new customers—financial institutions, large tech firms, the U.S. Department of Defense and the intelligence community. One undisclosed client, which supplies a frontier model to more than 700 million weekly users, has also signed on, underscoring the breadth of the problem.
From model hardening to protecting autonomous agents
Traditional machine-learning security focused on securing the training pipeline and detecting adversarial inputs that subtly distort predictions. HiddenLayer still covers those basics—discovery, runtime protection, attack simulation and supply-chain checks—but it now tackles the unique risks of generative AI.
- Prompt injection – Malicious inputs that coerce a model into executing unintended commands or revealing confidential data. The platform sanitises prompts before they reach the model and monitors output for policy violations.
- Agent manipulation – Autonomous agents that chain tools, APIs and data sources can be hijacked mid-execution, causing harmful actions or data leaks. HiddenLayer injects policy checks at each workflow step, aborting actions that breach defined rules.
- Malicious tool use – AI agents increasingly rely on external plugins, code interpreters or retrieval modules. The solution watches these integrations for anomalous behaviour, such as a retrieval module returning unexpected payloads.
Open-source and open-weight models present a particular headache. Because the model files are freely distributable, threat actors can embed hidden code or malicious weights that execute once the model loads. HiddenLayer parses and scans roughly 50 AI file formats, looking for “hidden models inside of models” that could act as backdoors. This supply-chain defence stops compromised artifacts before they ever run in production.
How the new capital will be spent
HiddenLayer will allocate the $100 million to three thrusts:
- Sales and distribution – Transform a niche go-to-market effort into a broader enterprise sales engine, reaching sectors just beginning to adopt AI at scale.
- Engineering research – Double down on detection logic for emerging attack vectors, such as multi-modal prompt injection and cross-agent coordination attacks.
- Geographic expansion – Build a presence in Europe, the Middle East and Africa (EMEA), where regulatory pressures around AI transparency and security are tightening.
Sestito likens HiddenLayer’s offering to “Endpoint Detection and Response (EDR) for AI.” Just as EDR agents watch operating-system processes for malicious activity, HiddenLayer’s runtime guard watches model inference calls, tool invocations and data flows for policy breaches.
The counter-point: could the cloud giants swallow the niche?
החברה מכירה בכך שספקי ענן גדולים — AWS, Azure, Google Cloud — עשויים להטמיע הגנות runtime דומות בשירותי ה-AI המנוהלים שלהם. אם ספק ענן יציע מסנני prompt-injection מובנים או אכיפת מדיניות סוכנים (agent-policy enforcement), ארגונים עשויים לראות פחות ערך בתוספת (add-on) מצד שלישי.
Sestito טוען כי בקרות ממשל (governance), זהות ומדיניות יישארו מורכבות מספיק כדי להצדיק פתרונות ייעודיים. "כשמתמודדים עם עומסי עבודה (workloads) מרובי-דיירים (multi-tenant) ובעלי ערך גבוה החוצים גבולות ארגוניים, הצעה של ענן אחת שמתאימה לכולם (one-size-fits-all) לא יכולה לתת מענה לכל ניואנס של ציות (compliance)," הוא אומר. הוא מאמין ששכבת אבטחה ייעודית יכולה לנוע מהר יותר ממחזורי המוצר העצומים של ה-hyperscalers, וכי אינטגרציה עמוקה עם כלי SIEM (security information and event management) קיימים תשמור על רלוונטיות הפלטפורמה.
מה לעקוב אחריו בחודשים הקרובים
- מהירות האימוץ – אם כלי אבטחה של HiddenLayer יהפכו לדרישת קדם בחוזי רכש של AI, רישיונות ארגוניים עשויים לזנק, במיוחד במגזרים מוסדרים (regulated sectors).
- מהלכים תחרותיים – יש לעקוב אחר הודעות של ספקי ענן מרכזיים על חיזוק (hardening) מובנה של AI runtime. הצעה חבילה (bundled offering) עלולה לאלץ את HiddenLayer לנוע לכיוון פריסות ענן היברידי או on-premises.
- לחץ רגולטורי – ככל שממשלות ינסחו תקני אבטחה ספציפיים ל-AI, דרישות הציות עשויות להתייחס במפורש להגנת runtime, מה שיעניק לספקים כמו HiddenLayer רוח גבית רגולטורית.
- אבולוציה של איומים – טכניקות תקיפה חדשות — prompt injection מתואם על פני מספר סוכנים (agents) או מתקפות שרשרת אספקה (supply-chain attacks) המרעילות משקולות מודל (model weights) בקנה מידה רחב — יבחנו כל מנוע זיהוי. המהירות שבה HiddenLayer תתאים את מודלי הזיהוי שלה תהיה גורם בידול מרכזי.
שורה תחתונה
גיוס ה-100 מיליון דולר של HiddenLayer מראה שהשוק לאבטחת runtime ספציפית ל-AI עבר מויכוח אקדמי לצורך מסחרי. ככל שה-AI הארגוני מתרחב מעבר למודלים מבודדים לסוכנים (agents) מורכבים ועשירים בכלים, הגנה רציפה מונעת מדיניות (policy-driven) הופכת לחיונית כמו אבטחת endpoint מסורתית. השאלה האם הסטארט-אפ יצליח להישאר צעד אחד לפני יריבים מתוחכמים ומרוץ החימוש הביטחוני בין ענקי הענן תקבע אם הוא יישאר ה-"EDR for AI" או יהפוך לתכונה נוספת המוטמעת בתוך פלטפורמה גדולה יותר. הרבעון הבא יחשוף האם ספקי אבטחת AI ייעודיים יוכלו לחצוב לעצמם נישה בת קיימא באקו-סיסטם שעדיין מגדיר את גבולותיו שלו.