Anthropic taglia il system prompt di Claude Code dell'80% per Fable 5
Anthropic sta assistendo a un cambio di paradigma nel modo in cui i grandi modelli linguistici vengono guidati, passando da pesanti set di istruzioni a una guida più leggera e intuitiva. Questa evoluzione è guidata dall'emergere dei nuovi modelli Fable 5 (classe Mythos), che prosperano con meno vincoli e più contesto.
La fine dei lunghi system prompt
Per anni, lo standard del settore per ottimizzare le prestazioni dell'IA ha comportato il "prompt engineering" attraverso massicce istruzioni di sistema ed esaustivi esempi few-shot. Gli sviluppatori credevano che un maggior numero di regole e di vincoli del tipo "non fare questo" fosse la chiave per l'affidabilità. Tuttavia, Anthropic sta invertendo questa tendenza.
Tariq Shihipar, membro dello staff tecnico di Anthropic, ha rivelato che l'azienda ha tagliato il system prompt di Claude Code di un incredibile 80 percento. Questa riduzione non è un segno di semplificazione del modello, quanto piuttosto una risposta alle sofisticate capacità cognitive dei nuovi modelli Fable 5. Man mano che i modelli diventano più avanzati, il metodo tradizionale di "accompagnamento" (hand-holding) tramite prompt lunghi è diventato controproducente.
Perché i modelli Fable 5 resistono ai vincoli
Il passaggio ai modelli Fable 5 (o classe Mythos) rappresenta un cambiamento fondamentale nel comportamento del modello. Secondo Shihipar, fornire esempi estesi e regole rigide a questi modelli specifici degrada effettivamente le prestazioni. Il motivo è inaspettato: questi modelli sono intrinsecamente più "imaginativi" rispetto ai loro predecessori.
Quando uno sviluppatore fornisce un lungo elenco di esempi specifici, questo agisce come un vincolo che limita le capacità di ragionamento del modello. Invece di esplorare la soluzione più efficiente o creativa a un problema, il modello si sente costretto a imitare i pattern specifici forniti nel prompt. Per sbloccare il vero potenziale della classe Mythos, Anthropic si sta allontanando dalle regole rigide per passare alla "guida attraverso il contesto" (steering through context). Ciò consente al modello di utilizzare le proprie capacità di ragionamento per affrontare i compiti senza essere limitato da un eccessivo carico di istruzioni.
L'evoluzione ciclica del prompt engineering
Il percorso del prompt engineering ha seguito un modello ciclico e distinto con l'evoluzione dei modelli. Le scoperte interne di Anthropic evidenziano tre fasi distinte dello sviluppo dei modelli:
- Modelli primordiali: Richiedevano prompt brevi e altamente specifici, supportati da molti esempi e istruzioni estremamente restrittive per mantenere qualsiasi livello di coerenza.
- Modelli intermedi: Con il miglioramento della comprensione, i prompt sono diventati significativamente più lunghi. Gli sviluppatori hanno sfruttato questa maggiore capacità di "seguire le istruzioni" (instruction following) per creare system prompt massicci e complessi che governavano ogni aspetto del comportamento del modello.
- L'era Fable 5: Siamo entrati in una fase in cui i prompt stanno diventando di nuovo più brevi. L'attenzione si è spostata dal dire al modello cosa fare (regole) al fornire l' ambiente necessario (contesto) affinché il modello possa agire autonomamente.
Questo sviluppo segna una pietra miliare per il panorama dell'IA. Suggerisce che, man mano che ci spostiamo verso modelli più agentici e orientati al ragionamento, il ruolo dello sviluppatore passerà da "creatore di regole" a "fornitore di contesto", dando priorità alla qualità dell'informazione rispetto alla quantità di istruzioni.
Punti chiave
- Riduzione dell'80%: Anthropic ha tagliato il system prompt di Claude Code dell'80% per allinearsi meglio alle capacità dei modelli Fable 5 (classe Mythos).
- I vincoli limitano la creatività: Esempi eccessivi e rigide regole di tipo "non fare" possono effettivamente limitare le capacità di ragionamento e di immaginazione dei modelli avanzati.
- Contesto rispetto alle regole: La nuova frontiera della guida dell'IA consiste nel fornire un contesto ricco piuttosto che lunghi e restrittivi set di istruzioni.