Twoje AI wydaje się wolne? Może wcale nie jest głupie.

AI często wydaje się wolne, ponieważ wykonuje jedno zadanie na raz. Czeka w kolejce. Musisz czekać, aż jeden moduł skończy pracę, zanim zacznie kolejny.

Możesz to naprawić, korzystając z agentów równoległych.

Wiele modułów nie zależy od siebie nawzajem. Jeśli je rozdzielisz, kilku agentów może pracować jednocześnie. Wykonasz tę samą pracę w znacznie krótszym czasie.

Oto jak zbudować równoległy workflow AI:

  1. Najpierj zadbaj o architekturę Równoległość wymaga przejrzystego projektu. Twoje moduły muszą być luźno powiązane (loosely coupled). Powinny komunikować się poprzez jasne interfejsy. Jeśli wymusisz równoległość na nieuporządkowanym kodzie, stworzysz węzeł błędów. Wykorzystaj AI na etapie projektowania, aby zaplanować te interfejsy.

  2. Przypisz konkretne role Używaj różnych modeli do różnych zadań, aby oszczędzić czas i pieniądze:

  • Lider (Opus): Zarządza całością, przydziela zadania i wykonuje końcowe kontrole.
  • Planista (Sonnet): Zajmuje się testowaniem sterowanym rozwojem (TDD) i planami implementacji.
  • Pracownik (Haiku): Pisze właściwy kod i uruchamia testy.

  1. Ustal limity Więcej agentów nie zawsze oznacza lepiej. Próbowałem uruchomić 10 agentów naraz, ale zabrakło mi pamięci RAM. Zmniejszyłem liczbę do 5 agentów. Dało mi to 10-krotne przyspieszenie przy połączeniu z innymi zadaniami. Dopasuj poziom współbieżności do możliwości swojego sprzętu i swoich limitów.

  2. Wykorzystaj Lidera do recenzji Nie zatrudniaj osobnego agenta do sprawdzania pracy. Taki agent musiałby uczyć się całego zadania od zera, co marnuje tokeny. Pozwól, aby to agent Lider dokonał recenzji. On już wie, co przydzielił, więc może sprawdzić pracę szybciej i dokładniej.

  3. Unikaj niepotrzebnego dzielenia zadań Niektóre zadania muszą być wykonywane w określonej kolejności. Jeśli wymusisz podział na ściśle powiązanych modułach, jakość spadnie. Powiedz swojemu AI: „Te moduły są ze sobą powiązane, nie wymuszaj podziału”.

Jak zacząć już dziś:

  • Dodaj „Parallelize when you can” do swoich instrukcji globalnych.
  • Zwiększ maksymalną liczbę współbieżnych subagentów w ustawieniach.
  • Przypominaj AI o równoległości przy każdym zleceniu zadania.

Źródło: https://dev.to/kanfu-panda/your-ai-feels-slow-maybe-its-not-dumb-youre-making-it-work-one-thing-at-a-time-3ipl

Opcjonalna społeczność edukacyjna: https://t.me/GyaanSetuAi