Modele AI z otwartymi wagami obsługują obecnie 63% ruchu tokenów na OpenRouter, podczas gdy jeszcze dwa lata temu było to mniej niż 5%. Ten gwałtowny wzrost jest wynikiem 50-krotnego spadku kosztów pojedynczego tokena oraz zmniejszającej się różnicy w wydajności, co zmusza programistów do ponownego przemyślenia swojej zależności od zamkniętych API.

Liczby stojące za tą zmianą

Analiza ruchu przeprowadzona przez Mozillę pokazuje, że modele z otwartymi wagami stały się dominującym źródłem mocy obliczeniowej na platformie OpenRouter. Ruch tokenów zlicza każdy fragment tekstu przetworzony przez model, co czyni go wiarygodnym wskaźnikiem rzeczywistego wykorzystania. Skok z poziomu poniżej 5% do 63% w tak krótkim czasie sygnalizuje zmianę strukturalną, a nie tylko przelotny trend.

Dlaczego ekonomia uległa odwróceniu

W 2023 roku uruchomienie wysokowydajnego modelu kosztowało około 20 USD za każdy milion przetworzonych tokenów. Dziś cena ta wynosi 0,40 USD — co oznacza 50-krotny spadek osiągnięty w ciągu ostatnich 36 miesięcy.

Luka wydajnościowa się zmniejsza

Modele otwarte niegdyś odstawały od swoich własnościowych odpowiedników o około 8% w standardowych benchmarkach. Ostatnie pomiary wskazują, że luka ta wynosi obecnie 3,3%, co jest wynikiem osiągniętym w zaledwie kilka miesięcy dzięki lepszemu kuratorowaniu danych i poprawkom architektonicznym. Różnica jest już na tyle mała, że wielu programistów nie widzi wad w zastąpieniu modelu zamkniętego modelem otwartym, zwłaszcza gdy kluczowym czynnikiem jest koszt.

Programiści masowo zmieniają podejście

Dane Mozilli pokazują, że 79% programistów wdrażających funkcje AI zaczyna obecnie od modelu z otwartymi wagami. Wybór ten nie wynika tylko z ceny; modele otwarte dają zespołom pełną przejrzystość w zakresie wag, licencjonowania i opcji wdrożenia, co przekłada się na szybsze cykle iteracji.

Suwerenność zwiększa pilność działań

Czterdzieści siedem krajów wprowadziło ostatnio ograniczenia dotyczące przetwarzania krytycznych obciążeń roboczych za pomocą zagranicznych usług AI. Modele otwarte mogą być hostowane na krajowej infrastrukturze, co pozwala tym państwom zachować kontrolę nad danymi i przestrzegać nowych regulacji. Presja polityczna przyspiesza adopcję w sektorach finansowym, opieki zdrowotnej i administracji publicznej.

Prawdziwą przewagą jest „zaplecze narzędziowe” (harness)

Analiza Mozilli podkreśla również, że otaczające narzędzia — frameworki do prompt engineeringu, filtry bezpieczeństwa, potoki orkiestracji — często przynoszą większe korzyści wydajnościowe niż przejście na model nieco lepszy.

Ryzyko pozostania przy zamkniętych API

  • Ryzyko dostawcy – Zmiany polityki, rewizje cen lub nakazy rządowe mogą natychmiast odciąć dostęp, pozostawiając usługi niedostępnymi do czasu wynegocjowania nowego kontraktu.

Pragmatyczny stos technologiczny dla dzisiejszych programistów

  • Przyjmij modele z otwartymi wagami jako domyślne dla większości obciążeń produkcyjnych.
  • Inwestuj w zaplecze narzędziowe (harness): buduj zestawy ewaluacyjne, twórz biblioteki powtarzalnych promptów i integruj warstwy bezpieczeństwa.
  • Projektuj z myślą o przenośności: abstrakcyjnie wywołuj modele poprzez interfejs, który może kierować zapytania do wielu dostawców bez konieczności zmian w kodzie.
  • Zastrzegaj modele zamknięte dla około 10% zadań wymagających najnowocześniejszego rozumowania lub danych własnościowych, z którymi modele otwarte nie mogą jeszcze konkurować.

Na co warto zwrócić uwagę w przyszłości

Modele z otwartymi wagami dominują obecnie na rynku tokenów AI, ponieważ są drastycznie tańsze i niemal tak samo sprawne jak alternatywy zamknięte. Zespoły, które zbudują solidne zaplecze narzędziowe i zadbają o przenośność swoich stosów technologicznych, odniosą oszczędności, jednocześnie chroniąc się przed szokami ze strony dostawców i zmian politycznych. Modele zamknięte przetrwają jako narzędzia specjalistyczne, ale większość prac nad AI już teraz przenosi się do sfery open-source.