Il responsabile dell'etica di OpenAI si è dimesso dopo appena un anno, una mossa riportata dal Financial Times che ha riacceso i dubbi sui controlli di sicurezza interni del laboratorio. La partenza è significativa perché il ruolo dovrebbe fungere da freno interno dell'azienda contro i rilasci rischiosi, e la sua improvvisa vacanza suggerisce che tale freno potrebbe mancare.

Un modello di dimissioni

Le dimissioni non sono un incidente isolato. Negli ultimi due anni, OpenAI ha visto una serie di membri del personale focalizzati sulla sicurezza lasciare l'azienda. Nel 2024, diversi membri del team Superalignment se ne sono andati. In precedenza, alcuni membri del consiglio di amministrazione sono stati rimossi durante una crisi di governance nel 2023. Il tema ricorrente è lo stesso: i ricercatori si uniscono per salvaguardare la tecnologia, incontrano attriti e se ne vanno.

Cosa doveva fare il ruolo

Il responsabile dell'etica supervisiona le decisioni di rilascio, le pratiche di gestione dei dati e la valutazione interna di potenziali capacità dannose. Quando la persona che occupa quel posto se ne va rapidamente, sorge il dubbio che tale autorità sia mai esistita davvero.

Possibili ragioni del turnover

  • Potere limitato di bloccare i rilasci – Se il ruolo non può costringere un team di prodotto a interrompere un lancio, la posizione diventa simbolica piuttosto che funzionale.
  • Pressione della velocità rispetto alla sicurezza – La competizione con altri giganti dell'IA crea un ambiente in cui la consegna rapida di nuove funzionalità è privilegiata, spesso a scapito di una valutazione approfondita dei rischi.
  • Priorità commerciali che oscurano il lavoro sulla sicurezza – La leadership potrebbe favorire progetti che generano entrate, lasciando i team di sicurezza sottoorganizzati e sovraccarichi.
  • Burnout dovuto alla costante frizione – Gli scontri ripetuti tra i sostenitori della sicurezza e gli ingegneri di prodotto possono logorare anche i ricercatori più impegnati.

Questi fattori riflettono una tensione più ampia nel settore: i laboratori premiano chi rilascia nuove funzionalità, mentre coloro che segnalano i pericoli vengono talvolta visti come ostacoli.

Controargomentazione: potrebbero esistere ancora delle garanzie interne

OpenAI non ha dettagliato pubblicamente l'autorità del suo responsabile dell'etica e l'azienda non ha rilasciato dichiarazioni in merito alle dimissioni. È possibile che altri meccanismi interni — come revisioni della sicurezza interfunzionali o comitati consultivi esterni — continuino a funzionare. Tuttavia, senza prove concrete della loro efficacia, la vacanza lascia comunque un vuoto evidente.

Perché la partenza è importante oltre OpenAI

Se un laboratorio di IA a scopo di lucro non riesce a trattenere un responsabile dell'etica per più di un anno, il modello di inserimento di esperti di sicurezza all'interno di imprese commerciali appare fragile. Anthropic, fondata sulla promessa di un'IA più sicura, riferisce pressioni simili, e persino aziende più grandi con ampie risorse hanno documentato attriti tra le unità di etica e i gruppi di prodotto.

Cosa potrebbe cambiare le carte in tavola

  • Auditor indipendenti con potere normativo – Organismi esterni che possano far rispettare la conformità, invece di fare affidamento sulla buona volontà interna.
  • Valutazioni di sicurezza obbligatorie per legge – Regole che richiedano un'analisi documentata dei rischi prima del rilascio di qualsiasi nuovo modello.
  • Protezioni più forti per i whistleblower – Garanzie che permettano ai dipendenti di sollevare preoccupazioni senza timore di ritorsioni.
  • Divulgazione pubblica degli avvertimenti sulla sicurezza – Trasparenza che permetta agli esperti esterni e al pubblico di vedere quali rischi sono stati identificati.
  • Finanziamento della ricerca sulla sicurezza indipendentemente dai fini di lucro – Sovvenzioni o finanziamenti pubblici che mantengano il lavoro sulla sicurezza isolato dalle scadenze dei prodotti.

Cosa osservare in seguito

Quando un leader dell'etica non riesce a restare oltre un anno, la struttura sottostante viene messa in discussione. Finché le dinamiche di potere tra l'ambizione del prodotto e la responsabilità della sicurezza non verranno rimodellate, è probabile che il ciclo di perdita di talenti si ripeta. I prossimi mesi mostreranno se OpenAI — e la comunità dell'IA nel suo complesso — riuscirà a spezzare questo schema.