OpenAI’s hoofd ethiek is na nauwelijks een jaar vertrokken, een bericht van de Financial Times dat twijfels over de interne veiligheidscontroles van het lab heeft aangewakkerd. Het vertrek is van belang omdat deze rol bedoeld is om als de interne rem van het bedrijf te fungeren bij risicovolle uitrolmomenten, en het plotselinge gat suggereert dat die rem mogelijk ontbreekt.

Een patroon van vertrekken

Het vertrek is geen op zichzelf staand incident. In de afgelopen twee jaar heeft OpenAI een reeks vertrekken gezien van personeel dat zich richt op veiligheid. In 2024 verlieten verschillende leden van het Superalignment-team het bedrijf. Eerder werden bestuursleden verwijderd tijdens een bestuurlijke strijd in 2023. Het terugkerende thema is hetzelfde: onderzoekers sluiten aan om de technologie te beschermen, stuiten op wrijving en vertrekken.

Wat de rol bedoeld was te doen

Het hoofd ethiek ziet toe op beslissingen over de uitrol, praktijken rondom gegevensbeheer en de interne toetsing van potentieel schadelijke capaciteiten. Wanneer de persoon die deze functie bekleedt snel vertrekt, roept dat de vraag op of de autoriteit die bij de rol hoort überhaupt wel bestond.

Mogelijke redenen voor de uitstroom

  • Beperkte macht om releases te stoppen – Als de rol een productteam niet kan dwingen een lancering te staken, wordt de positie eerder symbolisch dan functioneel.
  • Druk om snelheid boven veiligheid te stellen – Concurrentie met andere AI-giganten creëert een omgeving waarin snelle levering van nieuwe functies wordt geprezen, vaak ten koste van grondige risicobeoordelingen.
  • Commerciële prioriteiten die veiligheidswerk overschaduwen – Het management kan de voorkeur geven aan winstgevende projecten, waardoor veiligheidsteams onderbezet en overbelast raken.
  • Burn-out door constante wrijving – Herhaaldelijke botsingen tussen veiligheidsvoorvechters en productengineers kunnen zelfs de meest toegewijde onderzoekers uitputten.

Deze factoren weerspiegelen een bredere spanning in de sector: labs belonen degenen die nieuwe functies uitrollen, terwijl degenen die gevaren signaleren soms als obstakels worden gezien.

Tegenargument: interne waarborgen kunnen nog steeds bestaan

OpenAI heeft de bevoegdheden van het hoofd ethiek niet publiekelijk toegelicht, en het bedrijf heeft geen verklaring afgegeven over het vertrek. Het is mogelijk dat andere interne mechanismen — zoals cross-functionele veiligheidsbeoordelingen of externe adviesraden — blijven functioneren. Zonder concreet bewijs van hun effectiviteit laat de vacature echter een opvallend gat achter.

Waarom het vertrek belangrijker is dan alleen OpenAI

Als een winstgevend AI-lab een ethiek-leider niet langer dan een jaar kan vasthouden, lijkt het model van het inbedden van veiligheidsexperts in commerciële ondernemingen kwetsbaar. Anthropic, opgericht met de belofte van veiligere AI, meldt soortgelijke druk, en zelfs grotere bedrijven met uitgebreide middelen hebben wrijving gedocumenteerd tussen ethische eenheden en productgroepen.

Wat de situatie zou kunnen veranderen

  • Onafhankelijke auditors met regelgevende macht – Externe instanties die naleving kunnen afdwingen, in plaats van te vertrouwen op interne welwillendheid.
  • Wettelijk verplichte veiligheidsbeoordelingen – Regels die een gedocumenteerde risicoanalyse vereisen voordat een nieuw model wordt uitgebracht.
  • Sterkere bescherming voor klokkenluiders – Waarborgen die werknemers in staat stellen zorgen te uiten zonder angst voor represailles.
  • Openbare bekendmaking van veiligheidswaarschuwingen – Transparantie die externe experts en het publiek inzicht geeft in de geïdentificeerde risico's.
  • Financiering van veiligheidsonderzoek los van winstbejag – Subsidies of publieke financiering die veiligheidswerk afschermen van productdeadlines.

Waar we de komende tijd op moeten letten

Wanneer een ethisch leider niet langer dan een jaar kan blijven, komt de onderliggende structuur in twijfel. Totdat de machtsdynamiek tussen productambitie en veiligheidsverantwoordelijkheid is hervormd, zal de cyclus van talentverlies waarschijnlijk zich herhalen. De komende maanden zullen uitwijzen of OpenAI — en de bredere AI-gemeenschap — dit patroon kunnen doorbreken.