Agente com o framework Eve da Vercel

A Vercel lançou o Eve como código aberto. É um framework para construir agentes de IA duráveis.

Em vez de escrever código complexo para loops de modelos ou despacho de ferramentas, você escreve arquivos em um diretório. O Eve cuida do resto.

Eu construí um assistente de compras usando o Eve. Ele pesquisa produtos, verifica o estoque, compara preços e faz pedidos.

Aqui está o que eu aprendi:

O Conceito Central O Eve separa o agente do canal de comunicação.

  • O agente é o núcleo de raciocínio. Ele contém o modelo, as ferramentas e as instruções.
  • O canal é o método de entrega. Ele lida com autenticação, formatos de mensagem e plataformas.

Esse design permite que um único agente atenda a várias interfaces ao mesmo tempo. Você pode usar o mesmo agente para um chat na web, Slack, um CLI ou um webhook. Você adiciona novas interfaces adicionando arquivos de canal, não alterando o código do seu agente.

Sessões Duráveis O Eve usa um mecanismo de workflow para manter as conversas ativas.

  • As sessões sobrevivem a reinicializações do servidor.
  • Se um processo falhar no meio de um turno, o Eve retoma do último passo concluído.
  • Você pode parar seu servidor, reiniciá-lo e continuar a mesma conversa.

Para desenvolvimento local, o Eve salva tudo no seu sistema de arquivos em um diretório .workflow-data. Para produção, você pode conectar diferentes backends como PostgreSQL, Redis ou MongoDB.

Orquestração Zero Eu não escrevi nenhuma lógica de roteamento ou streaming.

  • O sistema de arquivos cuida da configuração. Para adicionar uma funcionalidade, basta criar um arquivo.
  • O agente lida com o raciocínio de múltiplas etapas de forma natural.
  • A ferramenta de desenvolvedor fornece uma interface de terminal (TUI) em tempo real para visualizar chamadas de ferramentas e o texto em streaming.

Se você usar um provedor de modelo personalizado, lembre-se de definir seu modelContextWindowTokens. O Eve usa isso para resumir mensagens antigas para que sua conversa nunca atinja um limite.

Principais Conclusões:

  • Sem código boilerplate para despacho de ferramentas.
  • Persistência de sessão integrada.
  • Suporte multiplataforma fácil via arquivos de canal.
  • Desenvolvimento rápido com uma TUI em tempo real.

Fonte: https://dev.to/stormhub/agent-with-vercels-eve-framework-3c2l

Comunidade de aprendizado opcional: https://t.me/GyaanSetuAi