Narzędzia agentów wymagają teraz kontroli łańcucha dostaw

Lepsze prompty nie uratują repozytorium z niekontrolowanymi narzędziami agentów.

Agenci programistyczni ewoluowali. Nie ograniczają się już do okien czatu. Czytają instrukcje. Wywołują narzędzia. Łączą się z rynkami (marketplaces). Działają w ramach workflow, które ingerują w pliki, pull requesty i wewnętrzne API.

Pytanie nie brzmi już: „czy model jest wystarczająco inteligentny?”.

Prawdziwe pytania to:

• Kto dopuścił to narzędzie do workflow?
• Do czego to narzędzie może uzyskać dostęp?
• Jak zauważysz, jeśli jego uprawnienia ulegną zmianie?

To nie jest prompt engineering. To kontrola łańcucha dostaw.

Zła sugestia to jedno. Zła sugestia z dostępem do powłoki (shell), tokena repozytorium lub instalatora pakietów to problem zupełnie innej kategorii. Model nie produkuje już tylko tekstu. Stoi on przed realnymi możliwościami działania.

Traktuj narzędzia agentów jak zależności.

Nie instalujesz pakietów na podstawie przeczucia. Liczy się dla Ciebie rejestr, utrzymujący (maintainer) i wersja. Narzędzia agentów zasługują na taką samą nieufność.

Jeśli narzędzie agenta może wpłynąć na Twoje repozytorium, system plików lub sieć, stosuj się do tych zasad:

• Prowadź inwentarz narzędzi agentów. Dokumentuj ich źródło i właściciela. • Wersjonuj instrukcje agentów. Traktuj zmiany w instrukcjach tak jak zmiany w konfiguracji CI. • Twórz listy dozwolonych (allowlist) źródeł narzędzi. Korzystaj ze znanych rynków (marketplaces). • Rozdziel narzędzia do odczytu od narzędzi do zapisu. Narzędzie do wyszukiwania potrzebuje innych uprawnień niż narzędzie do edycji. • Loguj wywołania narzędzi w sposób przejrzysty. Potrzebujesz ścieżki audytowej, którą ludzie będą w stanie faktycznie przeczytać. • Uczyń ryzykowne możliwości oczywistymi. Dostęp do powłoki i zapis do systemu plików muszą rzucać się w oczy podczas przeglądu (review). • Stwórz ścieżkę wyłączenia. Musisz mieć możliwość szybkiego usunięcia narzędzia, jeśli zawiedzie.

Celem jest przejście od zaufania przypadkowego do zaufania intencjonalnego.

Kolejna wielka przewaga nie trafi do zespołu z najbardziej błyskotliwymi promptami. Trafi do zespołu z nudnymi inwentarzami, nudnymi listami dozwolonych i nudnymi logami.

To właśnie ta wersja przetrwa w realnych projektach.

Source: https://dev.to/hefty_69a4c2d631c9dd70724/agent-tools-need-supply-chain-controls-now-1co2

Optional learning community: https://t.me/GyaanSetuAi