Bun đã phát hành mã nguồn AI không an toàn
Bun gần đây đã viết lại lõi của mình bằng Rust. Họ cũng đã thêm tính năng đa luồng (multithreading) thử nghiệm. Đây là những bước đi lớn. Tuy nhiên, phương pháp được sử dụng để đạt được những mục tiêu này là một điều đáng lo ngại.
Đội ngũ Bun thừa nhận rằng Claude AI đã viết phần lớn bản viết lại bằng Rust. Thay đổi này đã thêm hơn 13.000 khối unsafe vào mã nguồn. Nó cũng được phát hành mà không có bộ thu gom rác đồng thời (concurrent garbage collector).
Trong lập trình hệ thống, mã unsafe bỏ qua các cơ chế an toàn bộ nhớ. Một khối unsafe đã là một rủi ro. Mười ba nghìn khối từ một AI là một mối nguy.
Tôi hiểu nhu cầu về tốc độ. Các đội ngũ nhỏ phải di chuyển nhanh để cạnh tranh với Node.js và Deno. Nhưng tốc độ mà thiếu đi sự cẩn trọng thì rất nguy hiểm.
Mỗi khối unsafe là một lời hứa về việc truy cập bộ nhớ hợp lệ. Khi AI viết mã, ai sẽ là người ký vào lời hứa đó?
Các rủi ro đã rõ ràng:
- Mã nguồn AI thiếu tư duy của con người trong việc quản lý bộ nhớ.
- Tốc độ tạo mã nhanh đòi hỏi tốc độ kiểm duyệt cũng phải nhanh tương ứng.
- Việc thiếu bộ thu gom rác đồng thời khiến các khối lượng công việc đa luồng trở nên không ổn định.
Một runtime không phải là một thư viện đơn thuần. Nó là nền tảng của toàn bộ ứng dụng của bạn. Bạn chọn một runtime dựa trên sự tin tưởng. Khi cơ sở hạ tầng mang lại cảm giác mang tính thử nghiệm, các nhà phát triển sẽ quay trở lại với các công cụ ổn định như Node.js.
Tôi sử dụng các công cụ AI mỗi ngày. Tôi đối xử với mã nguồn AI giống như cách tôi đối xử với mã nguồn từ một kỹ sư cấp dưới (junior engineer). Nó cần một sự kiểm duyệt tương xứng với tầm ảnh hưởng của nó.
Tầm ảnh hưởng của đa luồng bên trong một runtime là cực kỳ lớn. Mười ba nghìn khối unsafe cần mười ba nghìn lý do chính đáng. Chúng không cần mười ba nghìn cái dấu phê duyệt cho có lệ.
Tham vọng là tốt. Nhưng bất cẩn với mã nguồn hệ thống là một rủi ro lớn.
Bạn có dám chạy 13.000 khối unsafe do AI tạo ra trong ứng dụng production của mình không? Giới hạn của bạn khi tin tưởng AI vào cơ sở hạ tầng là gì?
Cộng đồng học tập tùy chọn: https://t.me/GyaanSetuAi