Laboratorium Thinking Machines należące do Miry Murati oficjalnie wkroczyło do gry z Inkling – modelem typu open-weight, stworzonym, aby rzucić wyzwanie dominacji scentralizowanych gigantów AI stosujących podejście „jeden rozmiar dla wszystkich”. Stawiając na możliwość dostosowania zamiast na surową, ogólną moc obliczeniową, startup twierdzi, że przyszłość AI dla przedsiębiorstw leży w wyspecjalizowanej, lokalnie zoptymalizowanej inteligencji.
Architektura Inkling: Wydajność dzięki MoE
Inkling to system Mixture-of-Experts o ogromnej liczbie 975 miliardów parametrów. Mimo to, przy każdym pojedynczym zadaniu aktywuje on jedynie około 41 miliardów parametrów, co redukuje opóźnienia i koszty, zachowując jednocześnie zdolność do zaawansowanego rozumowania. Model uczył się na 45 bilionach tokenów obejmujących tekst, obrazy, dźwięk i wideo, co zapewnia mu natywne zdolności multimodalne. Firma twierdzi, że Inkling dorównuje modelowi Nemotron 3 Ultra od Nvidia w benchmarkach programistycznych, zużywając przy tym zaledwie jedną trzecią liczby tokenów, co jest wyraźnym dowodem na wydajność procesu trenowania.
Strategiczny zwrot w stronę personalizacji dla przedsiębiorstw
W przeciwieństwie do flagowych produktów OpenAI, Anthropic czy Google, które funkcjonują głównie jako chatboty ogólnego przeznaczenia, Inkling jest pozycjonowany jako fundament dla organizacji. Thinking Machines promuje model jako punkt wyjścia, zachęcając przedsiębiorstwa do jego dostrajania przy użyciu własnych danych za pośrednictwem platformy „Tinker”.
Ten ruch uderza w pułapkę „podwójnej płatności” występującą w branży. CEO Microsoftu, Satya Nadella, ostrzegał, że firmy płacą dwukrotnie – raz za subskrypcję, a drugi raz, wprowadzając unikalną logikę biznesową do modelu, który ostatecznie wzbogaca zbiór treningowy dostawcy. Oferując model typu open-weight, Thinking Machines pozwala firmom zachować tę inteligencję na własny użytek.
Infrastruktura o wysokiej stawce i błyskawiczny rozwój
Thinking Machines błyskawicznie wkroczyło na rynek. OpenAI potrzebowało około pięciu lat, a Anthropic około trzech; Thinking Machines twierdzi, że osiągnęło porównywalny kamień milowy w zaledwie dziewięć miesięcy.
Aby zapewnić taką prędkość, firma postawiła na sprzęt. Po nawiązaniu partnerstwa z Nvidia w marcu, Inkling był trenowany w całości na systemach GB300 NVL72 od Nvidia. Firma stosowała techniki destylacji – wykorzystując modele open-weight, takie jak Kimi K2.5 od Moonshot AI, do wczesnego etapu post-trainingu – ale zapowiada, że przyszłe procesy post-trainingu będzie przeprowadzać w pełni samodzielnie.
Kluczowe wnioski
- Zaleta open-weight: Deweloperzy mogą pobierać i modyfikować model MoE o 975 miliardach parametrów, co pozwala uniknąć uzależnienia od zamkniętych ekosystemów.
- Projektowanie zorientowane na wydajność: Aktywowanie tylko 41 miliardów parametrów na zadanie i ograniczenie zużycia tokenów pozwala modelowi oferować rozumowanie na najwyższym poziomie przy ułamku kosztów operacyjnych.
- Zakład o personalizację: Thinking Machines odchodzi od generycznych chatbotów na rzecz „Tinker” – platformy, która przekształca modele bazowe w wyspecjalizowane zasoby dla każdej organizacji.