Jake Williams, badacz bezpieczeństwa, zaprezentował w tym tygodniu framework CUSTODY, dając przedsiębiorstwom sposób na ustalanie wyraźnych uprawnień i ograniczeń w czasie rzeczywistym (runtime) dla agentów AI działających wewnątrz sieci korporacyjnych. Narzędzie to jest istotne, ponieważ w przeciwieństwie do tradycyjnego oprogramowania, agenci AI mogą dynamicznie pobierać dane, wywoływać usługi i modyfikować modele – a wszystko to bez jasnej, egzekwowalnej polityki – co tworzy lukę, którą napastnicy już zaczęli wykorzystywać.

Dlaczego agenci AI potrzebują barier ochronnych

Korporacyjne stosy AI obejmują obecnie chatboty, silniki rekomendacyjne, autonomiczne systemy decyzyjne oraz dziesiątki agentów działających w tle, które pobierają dane z wewnętrznych API lub usług zewnętrznych. Istniejące pakiety bezpieczeństwa koncentrują się na firewallach obwodowych, ochronie punktów końcowych i segmentacji sieci, ale brakuje im standardowej metody, aby określić, że „ten agent może odczytywać dane klientów, ale nie może zapisywać danych w bazie finansowej”. Brak takich kontroli w czasie rzeczywistym doprowadził już do incydentów, w których przejęci agenci byli wykorzystywani do eksfiltracji danych lub uszkodzenia wag modeli.

Jak CUSTODY wypełnia tę lukę

CUSTODY wprowadza język oparty na regułach, który opisuje, co agent AI może robić po połączeniu się z siecią. Polityki mogą określać:

  • Dostęp do zasobów – które bazy danych, magazyny plików lub API może odpytywać agent.
  • Limity działań – czy agent może tylko odczytywać, czy także zapisywać, usuwać lub wyzwalać zadania typu downstream.
  • Kontekst wykonywania – ograniczenia środowiska obliczeniowego, takie jak limity CPU lub izolacja kontenerów.

W czasie rzeczywistym framework przechwytuje wywołania agenta i sprawdza je pod kątem zestawu polityk, blokując każdą operację wykraczającą poza zdefiniowane granice. Zapobiega to niekontrolowanemu poruszaniu się przejętego agenta w środowisku korporacyjnym.

Integracja CUSTODY z istniejącymi stosami technologicznymi

Framework działa obok obecnych narzędzi bezpieczeństwa. Może on integrować się z popularnymi platformami orkiestracji, środowiskami uruchomieniowymi kontenerów i bramami API, ale dokładne kroki różnią się w zależności od platformy agenta. Organizacje muszą sporządzić inwentaryzację swoich zasobów AI, napisać pliki polityk dla każdej klasy agentów i przetestować warstwę egzekwowania zasad przed pełnym wdrożeniem. Skalowanie tych polityk na dziesiątki agentów będzie wymagało dedykowanego wysiłku operacyjnego, aby na bieżąco aktualizować reguły wraz z ewolucją modeli.

Uwagi i zastrzeżenia

Krytycy zauważają, że CUSTODY nie generuje polityk automatycznie; zespoły bezpieczeństwa muszą tworzyć je ręcznie, co może być pracochłonne. Istnieje również ryzyko obciążenia wydajności, jeśli każde wywołanie jest sprawdzane w czasie rzeczywistym, szczególnie w przypadku usług wnioskowania (inference) o wysokiej przepustowości. Wreszcie, skuteczność frameworka zależy od szerokiej adopcji – jeśli platforma AI dostawcy nie może udostępnić niezbędnych punktów styku (hooks), kontrole CUSTODY mogą zostać pominięte.

Na co warto zwrócić uwagę w przyszłości

  • Reakcja dostawców – czy główni dostawcy platform AI zaimplementują kompatybilne z CUSTODY punkty styku, czy zaoferują własne silniki polityk runtime.
  • Standaryzacja – wszelkie działania zmierzające do stworzenia branżowych specyfikacji uprawnień agentów AI mogą uczynić z CUSTODY de facto standard bazowy.
  • Opinie społeczności – pierwsi użytkownicy ujawnią rzeczywistą złożoność polityk i wpływ na wydajność, co ukształtuje przyszłe wersje.

Przedsiębiorstwa polegające na agentach AI powinny już teraz ocenić CUSTODY, zmapować jego miejsce w swoim stosie bezpieczeństwa i rozpocząć pilotażowe wdrażanie polityk, zanim kolejna fala ataków napędzanych przez AI uderzy w ich sieci.