GyaanSetu AI

AI, machine learning e insight sugli LLM.

1515 articlesDeep, practical knowledge

Un ricercatore indipendente riduce la bolletta degli agenti LLM del 31% a 651 $ registrando ogni token

Aggiungendo uno strato di logging in PostgreSQL che registrava il nome del modello, il numero di token, il tipo di attività e il costo per chiamata, il ricercatore ha individuato che i risultati grezzi della ricerca SEC stavano gonfiando i prompt. Riassumere tali risultati e indirizzare i controlli semplici a un modello più economico ha portato a un risparmio del 31% e ha migliorato leggermente l'accuratezza.

AI · 3 min di lettura

Meta lancia l'API Muse Spark 1.1 a 1,25 $/4,25 per milione di token

Il servizio, disponibile solo per gli sviluppatori con sede negli Stati Uniti, prevede una tariffazione di 1,25 $ per ogni milione di token in ingresso e 4,25 $ per ogni milione di token in uscita, con un credito di 20 $ per i nuovi account e una lista d'attesa per gli utenti internazionali.

AI · 1 min di lettura