Kimi K3 è un prodotto di distillazione? Gli esperti mettono in dubbio le accuse

La tensione geopolitica che circonda l'intelligenza artificiale ha raggiunto il punto di ebollizione, mentre i funzionari statunitensi accusano le aziende cinesi di spionaggio industriale. Sebbene le accuse suggeriscano che Moonshot AI abbia utilizzato Fable di Anthropic per addestrare il suo modello Kimi K3, i principali ricercatori di IA sostengono che la realtà tecnica dello sviluppo dei modelli linguistici di grandi dimensioni (LLM) racconti una storia molto più complessa.

Accuse di distillazione del modello e furto di proprietà intellettuale

Il consigliere scientifico della Casa Bianca Michael Kratsios ha mosso gravi accuse contro Moonshot, l'azienda dietro Kimi K3 — attualmente il più grande LLM open-weight disponibile. Kratsios sostiene che Moonshot abbia fatto ricorso a una "distillazione industriale occulta su larga scala" per rubare tecnologie proprietarie statunitensi. Questa affermazione è sostenuta dal Segretario al Tesoro Scott Bessent, il quale ha notato che i "watermark" (filigrane) degli LLM statunitensi sono comparsi nei modelli cinesi.

La distillazione è un processo in cui un modello più piccolo viene addestrato interrogando un modello "frontier" più grande per estrarne le capacità di ragionamento e la conoscenza. Ciò comporta spesso un fine-tuning supervisionato (SFT), in cui i prompt e le risposte di un modello target vengono utilizzati per addestrare il nuovo, causando talvolta l'adozione da parte del nuovo modello delle "buone maniere" o di specifiche peculiarità conversazionali dell'originale.

Perché gli esperti dubitano della teoria della distillazione

Nonostante il peso politico di queste affermazioni, la comunità di ricerca sull'IA rimane scettica. Braden Hancock, ricercatore presso il Laude Institute e co-fondatore di Snorkel AI, evidenzia un problema significativo di tempistiche: Fable di Anthropic è disponibile pubblicamente solo dal 1° luglio. "Non è possibile distillare così tanti dati, addestrare un modello e rilasciarlo in due settimane", ha osservato Hancock.

Inoltre, Nathan Lambert dell'Allen Institute for AI sostiene che la distillazione tramite SFT stia diventando meno efficace man mano che i modelli si avvicinano alla "frontiera". Per raggiungere il livello di prestazioni osservato in Kimi K3, un modello richiederebbe probabilmente massicci cicli di reinforcement learning (RL). Questo processo richiede decine di milioni di agenti per valutare le risposte, un compito che sarebbe proibitivamente costoso e lento se condotto tramite l'API di un concorrente.

Il ruolo dell'hardware e della competenza tecnica

La controversia non si limita al software. Kratsios ha anche accusato Moonshot di aver aggirato i controlli sull'esportazione per accedere all'hardware avanzato di Nvidia, menzionando specificamente i chip Grace Blackwell 300 e i server dotati di GB300. Sebbene l'esportazione di questi chip verso la Cina sia vietata, esperti come Sam Bresnick della Georgetown suggeriscono che i mercati neri e le complesse catene di approvvigionamento globali rendano estremamente difficile il monitoraggio di questi flussi di hardware.

Tuttavia, molti ricercatori sostengono che l'attenzione sulla distillazione mini la legittimità tecnica dei team di IA cinesi. Con fondatori provenienti da istituzioni d'élite come la Carnegie Mellon University, gli esperti suggeriscono che Moonshot sia capace di ricerca originale piuttosto che di limitarsi ad "appoggiarsi ai successi altrui".

Implicazioni per la corsa globale all'IA

Questa disputa evidenzia un crescente divario tra narrazioni politiche e realtà tecniche. Mentre il settore si sposta verso un reinforcement learning sofisticato e requisiti di calcolo massicci, il dibattito sul fatto che le aziende stiano "rubando" intelligenza o semplicemente progredendo attraverso un'ingegneria superiore continuerà a plasmare le politiche commerciali internazionali e la regolamentazione dell'IA.

Punti chiave

• Scetticismo tecnico: Gli esperti sostengono che il rapido rilascio di Kimi K3 renda matematicamente improbabile che sia stato costruito esclusivamente attraverso la distillazione di Fable di Anthropic.
• Oltre il fine-tuning: Sebbene la distillazione tramite fine-tuning supervisionato esista, il raggiungimento di prestazioni di livello "frontier" richiede probabilmente un reinforcement learning avanzato che non può essere facilmente "copiato".
• Preoccupazioni sull'hardware: Le accuse di accesso illecito ai chip Nvidia Blackwell vietati aggiungono un livello di complessità geopolitica al dibattito sul progresso dell'IA cinese.