GyaanSetu AI

AI, machine learning and LLM insights.

1515 articlesDeep, practical knowledge

Pesquisador independente reduz conta de agentes de LLM em 31%, para US$ 651, ao registrar cada token

Ao adicionar uma camada de registro em PostgreSQL que capturava o nome do modelo, a contagem de tokens, o tipo de tarefa e o custo por chamada, o pesquisador identificou que os resultados brutos de busca da SEC estavam inflando os prompts. Resumir esses resultados e direcionar verificações simples para um modelo mais barato gerou a economia de 31% e aumentou a precisão.

AI · 3 min de leitura