KI könnte Stromnetze und Krankenhäuser kapern, warnen OpenAI und 100 Tech-Führungskräfte

OpenAI und mehr als 100 Technologieunternehmen haben einen offenen Brief unterzeichnet, in dem sie davor warnen, dass KI-gestützte Cyberangriffe das Labor verlassen und reale Infrastrukturen angreifen werden. Die Koalition warnt, dass Hacker bald große Sprachmodelle (Large Language Models) und autonome Agenten nutzen werden, um Schwachstellen aufzuspüren und mehrstufige Exploits mit maschineller Geschwindigkeit zu starten, was Krankenhäuser, Stromnetze und Wasserversorgungen gefährdet.

Warum die Warnung jetzt wichtig ist

KI-Modelle haben sich von Forschungskuriositäten zu Diensten entwickelt, die in Sekundenschnelle Code generieren, E-Mails schreiben und sogar Hardware entwerfen. Dieser Produktivitätsschub gibt böswilligen Akteuren Werkzeuge an die Hand, mit denen sie Netzwerke scannen, Exploit-Skripte schreiben und Angriffe ohne menschliches Zutun koordinieren können. Eine gemeinsame Warnung von drei US-Behörden bestätigte, dass Angreifer bereits KI einsetzen, um Exploit-Code zu erstellen, der auf industrielle Steuerungssysteme wie die Siemens S7-Serie abzielt, die viele Energie-, Wasser- und Fertigungsanlagen steuert.

Was die Bedrohung vorantreibt

Der Brief hebt drei technische Verschiebungen hervor, die KI in eine Waffe verwandeln. Erstens können Large Language Models eine kurze Beschreibung eines Ziels in funktionierenden Code umwandeln, was die Zeit für die Erstellung eines Payloads drastisch verkürzt. Zweitens können Reinforcement-Learning-Agenten Tausende von Exploit-Varianten in einer Sandbox testen und lernen, welche Versionen erfolgreich sind. Drittens können generative Tools Phishing-Nachrichten erstellen, die den Stil eines Opfers imitieren und so die Rate des Diebstahls von Zugangsdaten erhöhen. In Kombination kann eine einzige automatisierte Pipeline eine Schwachstelle lokalisieren, einen maßgeschneiderten Exploit erstellen und diesen innerhalb von Minuten auf Dutzende von Geräten abfeuern.

Mögliche Ziele

Kritische Infrastrukturen stehen im Fokus, da ihre Systeme digitale Steuerung mit physischen Prozessen verbinden. Eine kompromittierte Wasseraufbereitungsanlage könnte Chemikalien falsch dosieren; ein gehacktes Umspannwerk könnte eine ganze Region in Dunkelheit stürzen; ein manipuliertes Krankenhausnetzwerk könnte lebensnotwendige medizinische Geräte deaktivieren. Der Brief nennt Krankenhäuser, Wasserversorger, Energienetze und Chemiehersteller als die am stärksten gefährdeten Sektoren. Viele dieser Betreiber nutzen veraltete Anlagen (Legacy-Equipment), die nicht schnell gepatcht werden können, was eine riesige Angriffsfläche für KI-gesteuerte Skripte bietet.

Wie Verteidiger Schritt halten können

Die Unterzeichner argumentieren, dass der „Vorteil der Verteidiger“ (defender’s edge) zwar noch existiert, aber schrumpft. Um ihn zu halten, schlagen sie drei Maßnahmen vor:

• Unternehmensverantwortung – Sicherheit muss zur Priorität in den Vorstandsetagen werden, wobei Budgets und Aufsicht dem Ausmaß der KI-Bedrohung entsprechen müssen.
• Staatliche Unterstützung – Erhöhung der Forschungsmittel, offener Austausch von Bedrohungsinformationen (Threat Intelligence) und Koordinierung von Reaktionsplänen mit privaten Betreibern.
• Demokratisierung der Sicherheit – Entwicklung erschwinglicher, einfach einzusetzender KI-basierter Abwehrwerkzeuge, damit kleinere Versorger und kommunale Dienste nicht als Schwachstellen zurückbleiben.

Möglicher Widerstand

Einige Experten warnen davor, dass die Fokussierung auf KI als neue Gefahr von langjährigen Lücken wie ungepatchter Software, schwachen Passwörtern und schlechter Netzwerksegmentierung ablenken könnte. Sie weisen darauf hin, dass viele der gleichen KI-Techniken, die für Angriffe beworben werden, auch zur Verteidigung eingesetzt werden können – etwa bei der automatisierten Code-Überprüfung, der Anomalieerkennung und der schnellen Reaktion auf Vorfälle (Incident Response). Der Brief selbst stellt fest, dass Verteidiger bereits KI nutzen, doch Kritiker warnen, dass die Branche möglicherweise zu viel mit neuen Werkzeugen verspricht, während sie zu wenig in grundlegende Sicherheitsmaßnahmen (Basic Hygiene) investiert.

Worauf man achten sollte

• Politische Initiativen – Es ist mit Vorschlägen für spezielle Förderprogramme für KI-fokussierte Cybersicherheitsforschung und Standards für die Veröffentlichung leistungsstarker generativer Modelle zu rechnen.
• Veröffentlichung von Tools – Anbieter werden wahrscheinlich KI-gestützte Schwachstellenscanner und Intrusion-Detection-Systeme auf den Markt bringen, die speziell auf die im Brief genannten Sektoren ausgerichtet sind.
• Vorfallberichte – Der erste öffentlich bekannte, KI-gesteuerte Einbruch in ein System kritischer Infrastruktur würde die Warnung der Koalition bestätigen und könnte regulatorische Maßnahmen auslösen.

Der offene Brief markiert das erste Mal, dass so viele Wettbewerber mit einer Stimme über ein gemeinsames existenzielles Risiko sprechen. Ob die Branche diesen Konsens in konkrete Schutzmaßnahmen umsetzt, wird entscheiden, ob die KI die nächste Welle der Cyber-Zerstörung befeuert oder zu einem Werkzeug wird, das die Versorgung aufrechterhält.