Bun hat unsicheren KI-Code ausgeliefert
Bun hat vor Kurzem seinen Kern in Rust neu geschrieben. Zudem wurde experimentelles Multithreading hinzugefügt. Das sind große Schritte. Die Methode, mit der diese Ziele erreicht wurden, ist jedoch besorgniserregend.
Das Bun-Team gab zu, dass Claude AI einen Großteil des Rust-Rewrites geschrieben hat. Diese Änderung fügte der Codebasis über 13.000 unsafe-Blöcke hinzu. Zudem wurde es ohne einen concurrent Garbage Collector ausgeliefert.
In der Systemprogrammierung umgeht unsicherer Code die Speichersicherheit. Ein einziger unsafe-Block ist ein Risiko. Dreizehntausend Blöcke von einer KI sind ein erhebliches Sicherheitsrisiko.
Ich verstehe das Bedürfnis nach Geschwindigkeit. Kleine Teams müssen sich schnell bewegen, um mit Node.js und Deno konkurrieren zu können. Aber Geschwindigkeit ohne Sorgfalt ist gefährlich.
Jeder unsafe-Block ist ein Versprechen für einen gültigen Speicherzugriff. Wenn eine KI den Code schreibt, wer bürgt für dieses Versprechen?
Die Risiken sind klar:
- KI-Code lässt das menschliche Verständnis für Speicherverwaltung vermissen.
- Eine schnelle Generierung erfordert eine ebenso schnelle Überprüfung.
- Das Fehlen eines concurrent Garbage Collectors macht Multithreading-Workloads instabil.
Eine Runtime ist keine einfache Bibliothek. Sie ist das Fundament Ihrer gesamten Anwendung. Man wählt eine Runtime basierend auf Vertrauen aus. Wenn sich die Infrastruktur experimentell anfühlt, kehren Entwickler zu stabilen Werkzeugen wie Node.js zurück.
Ich nutze KI-Tools jeden Tag. Ich behandle KI-Code genauso wie Code eines Junior-Entwicklers. Er benötigt eine Überprüfung, die seiner Tragweite entspricht.
Die Auswirkungen von Multithreading innerhalb einer Runtime sind gewaltig. Dreizehntausend unsafe-Blöcke erfordern dreizehntausend gute Gründe. Sie benötigen keine dreizehntausend bloßen Abnickungen.
Ehrgeiz zu zeigen ist gut. Mit Systemcode nachlässig umzugehen, ist ein Risiko.
Würden Sie 13.000 KI-generierte unsafe-Blöcke in Ihrer Produktionsanwendung ausführen? Wo liegt Ihre Grenze beim Vertrauen in KI für die Infrastruktur?
Optional learning community: https://t.me/GyaanSetuAi