Bun wypuścił niebezpieczny kod AI
Bun niedawno przepisał swój rdzeń w języku Rust. Dodano również eksperymentalną wielowątkowość. To duże kroki. Jednak metoda użyta do osiągnięcia tych celów jest niepokojąca.
Zespół Bun przyznał, że Claude AI napisał znaczną część przepisanego kodu w Rust. Ta zmiana dodała ponad 13 000 bloków unsafe do bazy kodu. Wypuszczono go również bez współbieżnego garbage collectora.
W programowaniu systemowym kod unsafe omija bezpieczeństwo pamięci. Jeden blok unsafe to ryzyko. Trzynaście tysięcy bloków od AI to ogromne zagrożenie.
Rozumiem potrzebę szybkości. Małe zespoły muszą działać szybko, aby konkurować z Node.js i Deno. Ale szybkość bez ostrożności jest niebezpieczna.
Każdy blok unsafe to obietnica poprawnego dostępu do pamięci. Kiedy kod pisze AI, kto podpisuje tę obietnicę?
Ryzyka są jasne:
- Kod AI nie posiada ludzkiego rozumowania w zakresie zarządzania pamięcią.
- Generowanie z dużą prędkością wymaga równie szybkiej weryfikacji.
- Brak współbieżnego garbage collectora sprawia, że obciążenia wielowątkowe są niestabilne.
Runtime to nie jest zwykła biblioteka. To fundament całej twojej aplikacji. Wybierasz runtime na podstawie zaufania. Gdy infrastruktura wydaje się eksperymentalna, programiści wracają do stabilnych narzędzi, takich jak Node.js.
Korzystam z narzędzi AI każdego dnia. Do kodu z AI podchodzę tak samo, jak do kodu od młodszego inżyniera. Wymaga on przeglądu, który odpowiada jego wpływowi.
Wpływ wielowątkowości wewnątrz runtime'u jest ogromny. Trzynaście tysięcy bloków unsafe wymaga trzynastu tysięcy dobrych powodów. Nie potrzebują one trzynastu tysięcy bezkrytycznych zatwierdzeń.
Ambitność jest dobra. Nieostrożność w kodzie systemowym to ryzyko.
Czy uruchomiłbyś 13 000 bloków unsafe wygenerowanych przez AI w swojej aplikacji produkcyjnej? Jaka jest Twoja granica zaufania do AI w kwestii infrastruktury?
Optional learning community: https://t.me/GyaanSetuAi