A demonstração do seu agente funciona. Essa é a armadilha.
Eu construo agentes de IA para empresas. Vejo o mesmo padrão com frequência. O modelo funciona em uma demonstração. Você lança o produto. Então, ele falha uma em cada três vezes em produção. Ninguém sabe o porquê.
A lacuna entre uma demonstração e a produção é matemática. Assim que você entende a matemática, você constrói de forma diferente.
Se cada etapa do seu agente tiver 95% de confiabilidade, parece bom. Mas agentes usam cadeias de etapas. Se você encadear dez etapas, sua taxa de sucesso cai para 60%. Se usar vinte etapas, sua taxa de sucesso cai para 36%.
No trabalho real, as etapas costumam ter taxas de erro de 10% a 20%. Se um agente tiver oito etapas com 85% de confiabilidade, ele falhará 75% das vezes.
O modelo não é o problema. O problema é a probabilidade composta.
Uma demonstração mostra um único "caminho feliz" (happy path). Ela usa entradas limpas e cadeias curtas. A produção usa dados bagunçados de centenas de usuários. Ela usa cadeias longas que incluem etapas ocultas.
A falha em agentes não se parece com um travamento (crash). Parece um erro silencioso.
A etapa 3 lê incorretamente um campo. A saída ainda parece um JSON válido. A etapa 4 usa esses dados ruins para raciocinar. As etapas 5 a 8 baseiam-se nesse erro. A resposta final está errada, mas parece plausível. Não há um log de erro para mostrar onde algo deu errado.
Pare de dizer que o modelo alucinou. O modelo apenas repassou os dados ruins que recebeu. Seu sistema carecia de um checkpoint para capturar o erro na etapa 3.
Pare de tratar o agente como um prompt. Comece a tratá-lo como um sistema.
Siga estas regras para construir agentes confiáveis:
Salve o estado fora do agente. Mantenha o estado em um banco de dados, não na conversa. Se um processo falhar na etapa 6, você pode retomar na etapa 6. Você não precisa reiniciar toda a cadeia.
Valide nos limites (boundaries). Verifique cada entrada e saída contra um esquema (schema). Capture o erro na etapa em que ele ocorre. Isso transforma um mistério em um erro recuperável.
Torne os efeitos colaterais idempotentes. Você deve tentar novamente as etapas quando elas falharem. Se uma etapa envia um e-mail ou cobra um cartão, use uma chave de idempotência. Isso evita ações duplicadas durante uma nova tentativa.
Use evals no seu CI. O comportamento do agente muda a cada ajuste. Uma mudança no prompt pode corrigir um caso, mas quebrar outros cinco. Use um conjunto de testes para capturar essas regressões automaticamente.
Mudar de uma demonstração para um produto real é uma questão de engenharia. Trata-se de tratamento de erros, gerenciamento de estado e observabilidade. Não se trata de prompts melhores.
Se o seu agente apresentar instabilidade em produção, não procure por um modelo maior. Procure a etapa onde a cadeia sai dos trilhos. Pergunte por que seu sistema não capturou o erro ali.
Fonte: https://dev.to/sagar_jain4010/your-agent-demo-works-thats-the-trap-4joc
Comunidade de aprendizado opcional: https://t.me/GyaanSetuAi