Gli Stati Uniti costringono Anthropic a disattivare i modelli di IA
Il governo degli Stati Uniti ha ordinato ad Anthropic di disattivare due modelli avanzati di IA. Questi modelli sono Fable 5 e Mythos 5. L'ordine riguarda tutti gli utenti a livello globale.
Il Dipartimento del Commercio ha emesso una direttiva di controllo delle esportazioni il 12 giugno 2026. Ciò è accaduto a causa di una semplice falla di sicurezza. Un prompt di tre parole "fix this code" permette un jailbreak.
Come funziona la falla:
- I ricercatori hanno scoperto che Fable 5 crea patch funzionanti per codice non patchato.
- Questo aiuta i difensori a colmare le lacune di sicurezza.
- Tuttavia, gli attaccanti utilizzano lo stesso metodo per trovare automaticamente falle nelle basi di codice.
Il divieto è rigoroso. Le norme sull'esportazione degli Stati Uniti classificano la condivisione di questa tecnologia con cittadini non statunitensi come un'esportazione. Anthropic ha dovuto disattivare i modelli per tutti al fine di conformarsi.
Il settore sta reagendo con preoccupazione. Oltre 100 esperti di aziende come Google, Nvidia e Adobe hanno firmato una lettera aperta. Sostengono che tali controlli danneggino i difensori. Ritengono che questa mossa dia un vantaggio agli avversari che sviluppano la propria IA.
Fatti chiave sui modelli: • Mythos 5 è un modello base in grado di identificare e concatenare attacchi informatici. • Fable 5 è una versione progettata per uso difensivo con misure di sicurezza. • Mythos 5 ha precedentemente superato i test di cybersicurezza del UK AI Security Institute.
Anthropic non è d'accordo con la decisione. Affermano che il rischio di jailbreak sia minimo. Sostengono che bloccare i modelli per una falla così circoscritta impedirebbe il rilascio di tutte le nuove IA.
Questa mossa ha un impatto anche sugli alleati degli Stati Uniti. Paesi come il Canada e il Regno Unito si affidano a questi modelli per proteggere le infrastrutture critiche. Il divieto ne blocca anche l'accesso.
La situazione mostra la tensione tra l'innovazione dell'IA e la sicurezza nazionale. Solleva il dubbio se le leggi attuali possano gestire strumenti che reagiscono a una semplice frase di tre parole.
Source: https://dev.to/techmag/us-forces-anthropic-to-shut-down-fable-5-mythos-5-over-security-flaw-4dlm
Optional learning community: https://t.me/GyaanSetuAi