Demis Hassabis fordert eine von den USA geführte globale KI-Aufsichtsbehörde zur Risikosteuerung

Demis Hassabis, CEO von Google DeepMind, setzt sich für die Schaffung einer mächtigen internationalen Regulierungsbehörde ein, die in der Lage ist, den Einsatz gefährlicher Frontier-KI-Modelle zu stoppen. Da das Streben nach künstlicher allgemeiner Intelligenz (AGI) an Fahrt gewinnt, argumentiert Hassabis, dass ein standardisierter globaler Rahmen unerlässlich sei, um katastrophale Folgen zu verhindern.

Ein Regulierungsmodell basierend auf Finanzaufsicht

In seinem jüngsten Vorschlag „A Framework for Frontier AI and the Dawning of a New Age“ schlägt Hassabis eine Regulierungsstruktur vor, die der Financial Industry Regulatory Authority (FINRA) ähnelt. Diese vorgeschlagene Aufsichtsbehörde wäre nicht bloß ein Beirat; sie bestünde aus unabhängigen Experten und Vertretern der Open-Source-Community mit der ausdrücklichen Befugnis, Frontier-Modelle vor ihrer Veröffentlichung zu bewerten.

Entscheidend ist, dass die Organisation die Macht besäße, eine branchenweite „Verlangsamung“ zu koordinieren, falls ein bestimmtes Modell als zu riskant für den Einsatz eingestuft wird. Dieser Mechanismus zielt darauf ab, einen „Wettlauf nach unten“ (Race to the Bottom) zu verhindern, bei dem Unternehmen Sicherheitsprotokolle opfern, um die AGI schneller als ihre Konkurrenten zu erreichen.

Warum die Vereinigten Staaten die Führung übernehmen sollten

Hassabis argumentiert, dass die Vereinigten Staaten in einer einzigartigen Position sind, um diese globale Initiative anzuführen. Angesichts der dominanten wirtschaftlichen und technischen Stellung des Landes im KI-Sektor verfügt die USA über die nötige Hebelwirkung, um Standards zu setzen, denen der Rest der Welt folgen kann.

Die Dringlichkeit dieses Vorschlags wird durch Hassabis' Überzeugung getrieben, dass die AGI „wahrscheinlich nur noch wenige kurze Jahre entfernt“ ist. Er betrachtet die aktuelle Ära als die „Ausläufer der Singularität“ – eine transformative Periode, die die Menschheit grundlegend neu definieren wird. Um diesen Übergang zu bewältigen, arbeitet er daran, die Lücke zwischen privater Innovation und öffentlicher Sicherheit zu schließen.

Aufbau eines politischen und industriellen Konsenses

Die Bewegung hin zu einer formellen Regulierung gewinnt hinter den Kulissen bereits an Dynamik. Berichten zufolge hat Hassabis Monate damit verbracht, verschiedene Interessengruppen zu informieren, darunter europäische Beamte, große KI-Labore und die Trump-Administration. Laut Axios fiel das erste Feedback der kommenden US-Regierung „sehr positiv“ aus, was auf eine potenzielle Verschiebung hin zu einer stärker strukturierten bundesstaatlichen Aufsicht hindeutet.

Dieser Vorstoß für Governance deckt sich mit jüngsten Warnungen anderer Branchenriesen, darunter Anthropic-Mitbegründer Jack Clark und der ehemalige Google-CEO Eric Schmidt, hinsichtlich der wirtschaftlichen und existenziellen Auswirkungen von KI. Hassabis, Preisträger des Nobelpreises 2024, hat sich auch lautstark zu spezifischen Hochrisiken geäußert, wie etwa dem Potenzial von KI, bei der Herstellung von Biowaffen zu helfen.

Die weitreichenden Auswirkungen auf das KI-Ökosystem

Sollte diese Aufsichtsbehörde realisiert werden, würde sie den bedeutendsten Wandel in der Technologiepolitik seit Jahrzehnten darstellen. Für Entwickler und Gründer bedeutet dies den Übergang von einer Ära des „Move fast and break things“ zu einer hochregulierten Ära, in der Audits vor dem Einsatz zur Norm werden. Während einige befürchten, dies könnte die Innovation ersticken, argumentiert Hassabis, dass ein kohärenter Rahmen der einzige Weg sei, um sicherzustellen, dass der Übergang in eine von AGI getriebene Welt sicher und stabil verläuft.

Wichtigste Erkenntnisse

• Regulatorische Durchsetzungskraft: Die vorgeschlagene Aufsichtsbehörde hätte die Befugnis, Frontier-Modelle zu bewerten und branchenweite Verlangsamungen anzuordnen, falls die Risiken zu hoch sind.
• Führung der USA: Hassabis vertritt die Ansicht, dass die USA die Initiative anführen sollten, aufgrund ihrer zentralen Rolle in der globalen KI-Wirtschaft und der technischen Infrastruktur.
• Dringlichkeit der AGI: Der Vorschlag wird durch den rasanten Fortschritt in Richtung AGI vorangetrieben, die Hassabis als ein „neues Zeitalter für die Menschheit“ betrachtet, das eine sofortige Aufsicht erfordert.