Construindo o Loop do Agente de Produção
Um agente de demonstração é fácil de construir. Um agente de produção é difícil.
Em uma demonstração, o loop é simples: observar, decidir, agir, verificar, repetir. O modelo vê um resultado e passa para a próxima etapa.
Em produção, esse mesmo loop precisa de regras estritas. Um agente de produção não é apenas um modelo e algumas ferramentas. É um loop envolto em estrutura para mantê-lo íntegro.
A maior armadilha é confiar nas respostas das ferramentas.
Imagine que um agente precise cancelar um pedido e emitir um reembolso.
- O agente chama
cancel_order. - A ferramenta retorna
200 OK. - O agente chama imediatamente
issue_refund.
Em uma demonstração, isso funciona. Em produção, isso é um desastre.
Um 200 OK geralmente significa que a solicitação foi aceita, não que a tarefa foi concluída. O cancelamento ainda pode estar pendente em uma fila. Se o agente emitir um reembolso antes que o cancelamento seja confirmado, você movimentará dinheiro com base em uma suposição.
Você deve seguir uma regra: a resposta de uma ferramenta descreve a solicitação, não necessariamente o estado do mundo.
Para construir um loop de produção seguro, você precisa destes componentes:
• Contratos de Ferramenta: Cada ferramenta deve definir sua entrada, saída, modos de falha e uma chave de idempotência. • Portões de Verificação: Não verifique apenas se uma ferramenta retornou um código de sucesso. Releia o estado real do mundo para confirmar que a alteração ocorreu. • Estado de Trabalho: Mantenha os fatos separados do histórico do chat. Isso evita que o agente alucine com base no texto da conversa. • Portões de Aprovação: Use humanos para validar a intenção em ações de alto risco. • Regras de Parada: Defina limites de etapas, custo, tempo e silêncio para evitar loops descontrolados.
A estrutura do loop não muda. A implementação torna-se mais rigorosa.
Para ações consequentes, sua etapa de "verificação" deve ter duas partes:
- Verificar: O mundo realmente mudou como esperado?
- Efetivar: Agora que está confirmado, é seguro passar para a próxima etapa?
O agente mais seguro é o que possui mais limites. A confiabilidade vem de estabelecer fronteiras claras ao redor do modelo, não de dar a ele mais liberdade.
Fonte: https://dev.to/gursharansingh/ai-agents-in-practice-part-6-building-the-production-agent-loop-2lfi
Comunidade de aprendizado opcional: https://t.me/GyaanSetuAi