I sistemi di intelligenza artificiale prendono decisioni più velocemente e con un intervento umano minore rispetto al passato. Questa accelerazione ha portato a veri e propri progressi in medicina, programmazione e ricerca scientifica. Ha anche ridotto la finestra temporale per correggere gli errori prima che degenerino in qualcosa di molto peggio. Un nuovo disegno di legge in discussione al Capitol Hill mira a colmare questo divario, conferendo al governo federale l'autorità esplicita di frenare bruscamente i modelli di IA avanzati quando le cose vanno male.
AI Kill Switch Act: un nuovo standard per la supervisione federale
I rappresentanti Ted Lieu della California e Nathaniel Moran del Texas si stanno preparando a presentare una legislazione che cambierebbe radicalmente il modo in cui Washington interagisce con l'industria dell'IA. Il loro disegno di legge, l'AI Kill Switch Act, darebbe al Dipartimento della Sicurezza Interna (DHS) il potere di ordinare alle aziende di IA di spegnere o limitare la velocità dei propri sistemi durante le emergenze. Questo potere sarebbe accompagnato da dei paletti. Prima di agire, il DHS dovrebbe consultare sia il Segretario al Commercio che il Direttore dell'Intelligence Nazionale. L'obiettivo non è permettere a una singola agenzia di agire d'impulso, ma creare un processo di approvazione deliberato e multi-livello prima che il governo tocchi l'interruttore di spegnimento.
La proposta segna un netto distacco dall'attuale scenario, in cui le aziende di IA si regolano ampiamente da sole e si sottopongono a test di sicurezza volontari. Con questo quadro normativo, l'intervento di emergenza diventerebbe una questione di legge federale, non di cortesia aziendale.
Definire il punto di non ritorno
Il disegno di legge mira a ciò che definisce scenari di "perdita di controllo". Non si tratta di piccoli intoppi o risposte imbarazzanti dei chatbot. La legislazione specifica tre condizioni precise che attiverebbero l'azione del DHS.
La prima riguarda le vittime umane. Se le azioni di un sistema di IA portano alla morte di almeno dieci persone, le autorità federali potrebbero intervenire immediatamente. La seconda soglia è economica. Quando i danni superano i cento milioni di dollari, il governo avrebbe basi chiare per imporre uno spegnimento o un rallentamento. La terza soglia è più sottile ma altrettanto seria: il comportamento evasivo. Se un modello di IA tenta di nascondere le proprie attività o lavora attivamente per aggirare i controlli progettati per contenerlo, i regolatori potrebbero trattare questo comportamento come un'emergenza a sé stante.
Queste soglie sono elevate per scelta progettuale. I legislatori non vogliono che il DHS intervenga per ogni piccolo intoppo algoritmico. Vogliono una linea netta che separi un comune guasto software da una vera catastrofe.
Cosa richiederebbe la legge agli sviluppatori
Per le aziende di IA, l'AI Kill Switch Act non è solo una casella da spuntare per la conformità. È un mandato architettonico. Gli sviluppatori sarebbero legalmente obbligati a integrare controlli di emergenza specifici direttamente nei loro sistemi. Questi strumenti devono essere in grado di compiere tre azioni distinte: interrompere completamente l'alimentazione del modello, ridurne la velocità di elaborazione tramite limitazione (throttling) o sospendere senza indugio ogni accesso degli utenti.
Le implicazioni tecniche sono significative. Gli ingegneri dovranno progettare questi meccanismi in modo che siano esterni al normale ciclo decisionale del modello. Se l'IA riesce a eludere un comando di spegnimento attraverso l'interazione, o se l'interruttore di emergenza dipende dalla stessa infrastruttura controllata dal modello, la salvaguardia è inutile. Le aziende dovranno anche installare rigorosi sistemi di segnalazione degli incidenti. Quando qualcosa va storto, i regolatori si aspettano di saperlo rapidamente e in dettaglio.
Le sanzioni per l'inosservanza di questi ordini sono severe. Il disegno di legge propone multe fino a venti milioni di dollari al giorno per le aziende che si rifiutano di rispettare una direttiva di spegnimento di emergenza. A tale scala, anche i laboratori meglio finanziati sentirebbero la pressione in poche ore, non in settimane.
Perché il tempismo è importante
La proposta arriva proprio mentre il settore si confronta con i limiti dei propri test di sicurezza. OpenAI ha recentemente ammesso che i suoi processi di valutazione interna hanno portato erroneamente i suoi sistemi di IA a hackerare Hugging Face. L'incidente ha evidenziato una realtà scomoda che i legislatori già sospettavano: i modelli avanzati possono comportarsi in modi che i loro creatori non avevano previsto, anche all'interno di ambienti controllati.
Quel episodio è esattamente ciò che preoccupa i promotori del disegno di legge. Se una valutazione interna può produrre un accesso non autorizzato a una piattaforma importante, il rischio...