Dlaczego większość agentów AI jest przeinżynierowana
Agenci AI są wszędzie. Widzisz roje agentów, autonomiczne zespoły i samodoskonalące się systemy. Co tydzień pojawia się nowy framework obiecujący budowę kolejnej generacji AI.
Po przeanalizowaniu workflowów AI wyciągnąłem prosty wniosek. Większość agentów AI jest przeinżynierowana.
Agenci nie są bezużyteczni. Jednak wielu twórców rozwiązuje problemy za pomocą agentów, podczas gdy mogliby użyć czegoś prostszego.
Branża kocha złożoność
Wyobraź sobie, że chcesz zbudować system do odczytywania plików PDF, wyodrębniania danych i odpowiadania na pytania. Wielu twórców tworzy złożoną architekturę z sześcioma agentami, wieloma promptami i zarządzaniem stanem. Powoduje to wiele problemów.
Ten sam problem często można rozwiązać za pomocą prostej sekwencji:
- PDF -> Chunk
- Chunk -> Embed
- Embed -> Vector DB
- LLM -> Response
Czasami workflow wystarczy. Nie potrzebujesz armii agentów.
Workflow rozwiązuje większość problemów
Większość aplikacji AI jest deterministyczna. Podążają za ustalonym ciągiem zdarzeń. Przykłady obejmują:
- Document Q&A
- Obsługa klienta
- Podsumowania spotkań
- Generowanie wpisów na blogu
- Przegląd kodu
To są workflowy, a nie systemy autonomiczne. Workflow jest łatwiejszy w debugowaniu, skalowaniu, utrzymaniu i wyjaśnianiu.
Agenci wprowadzają ukryte koszty
Każdy nowy agent generuje problemy:
- Wyższe koszty tokenów z powodu większej liczby promptów
- Większe opóźnienia (latency) wynikające z dodatkowych kroków
- Większa szansa na halucynacje
- Trudniejsze debugowanie
- Większe zapotrzebowanie na infrastrukturę
Prosta aplikacja zmienia się w ogromny projekt inżynieryjny.
Gdzie agenci naprawdę błyszczą
Nie jestem przeciwko agentom. Agenci są przydatni, gdy:
- Zadania trwają długo, np. przeszukiwanie wielu stron internetowych.
- Wymagane jest podejmowanie decyzji w oparciu o konkretną logikę.
- Interwencja człowieka jest częścią procesu (human-in-the-loop).
- Wymagana jest współpraca wielu narzędzi, takich jak Slack, GitHub i e-mail.
Moja zasada
Twórcy często od razu rzucają się na złożone frameworki. Zanim to zrobisz, zadaj sobie jedno pytanie: Czy ten problem może rozwiązać workflow?
Jeśli odpowiedź brzmi tak, zacznij od tego. Dodawaj agentów dopiero wtedy, gdy wymaga tego złożoność.
Stosuj tę zasadę:
- Najpierw workflow.
- Potem agent.
- Na końcu systemy multi-agent.
Złożoność to nie innowacja. Złożoność to koszt. Użytkowników nie obchodzi, ilu agentów używasz. Obchodzi ich, czy narzędzie działa. Prostota to funkcja.
Źródło: https://dev.to/jaideepparashar/why-i-think-most-ai-agents-are-overengineered-249o