GyaanSetu AI

AI, machine learning and LLM insights.

1599 articlesDeep, practical knowledge

Un investigador independiente reduce la factura de agentes LLM un 31% a 651 $ registrando cada token

Al añadir una capa de registro en PostgreSQL que capturaba el nombre del modelo, el recuento de tokens, el tipo de tarea y el coste por llamada, el investigador identificó que los resultados de búsqueda brutos de la SEC estaban inflando los prompts. Resumir esos resultados y derivar las comprobaciones sencillas a un modelo más económico permitió un ahorro del 31% y mejoró ligeramente la precisión.

AI · 3 min de lectura

Meta lanza la API Muse Spark 1.1 a $1.25/$4.25 por millón de tokens

El servicio, disponible únicamente para desarrolladores en EE. UU., cobra $1.25 por cada millón de tokens de entrada y $4.25 por cada millón de tokens de salida, con un crédito de $20 para cuentas nuevas y una lista de espera para usuarios internacionales.

AI · 1 min de lectura

Un agente de IA realizó 1.858 llamadas a herramientas en un día y no entregó nada

La ausencia de un paso de verificación permitió que el agente se saltara su fase de 'ejecución', de modo que pasó un día entero redactando 1.858 reflexiones internas sin invocar jamás una herramienta real, lo que deja al descubierto una trampa de bucle infinito capaz de paralizar a cualquier asistente basado en herramientas.

AI · 2 min de lectura