AI vẫn chưa thể viết mã an toàn
Bjarne Stroustrup là người tạo ra C++. Ông có quan điểm rất mạnh mẽ về việc lập trình bằng AI.
Ông cho rằng các công cụ AI thất bại trong việc viết mã cho các hệ thống phức tạp. Ông tin rằng AI tạo ra nhiều lỗi (bugs) và lỗ hổng bảo mật hơn.
Dưới đây là lý do tại sao ông lo ngại:
- Việc theo dõi các thay đổi rất khó khăn. Những thay đổi do con người thực hiện thường nằm tập trung tại một chỗ. Trong khi đó, các thay đổi do AI tạo ra lại lan rộng khắp toàn bộ dự án. Bạn không thể dễ dàng tìm ra các tác dụng phụ (side effects).
- AI bắt chước các thói quen cũ. Các mô hình ngôn ngữ lớn (LLM) được huấn luyện trên các mã nguồn có sẵn. Chúng lặp lại những sai lầm cũ và các mô hình hiệu suất kém.
- Việc xác thực là một mớ hỗn độn. Rất khó để kiểm chứng những gì AI đã viết.
Ông không ghét AI. Ông nghĩ rằng nó giúp ích cho việc viết tài liệu kỹ thuật. Tuy nhiên, bạn vẫn cần con người để kiểm tra lại công việc.
Stroustrup tập trung vào 20% mã nguồn quan trọng nhất. Đây là phần mã được sử dụng để đảm bảo tính an toàn và hiệu suất cao. AI chưa sẵn sàng cho công việc này.
Các chuyên gia từ PVS-Studio cũng đồng tình với quan điểm này.
Phillip Khandeliants cho biết vấn đề bắt đầu khi các lập trình viên sao chép và dán mã do AI tạo ra mà không kiểm tra lại. Điều này dẫn đến các phần mềm kém chất lượng và không an toàn.
Oleg Lisiy đưa ra một góc nhìn khác. AI hiện đã là một phần của công việc. Tuy nhiên, bạn không nên để một tác nhân AI (AI agent) đẩy mã trực tiếp lên môi trường production. Đó là một ý tưởng tồi đối với các công ty lớn.
Ông cũng lưu ý rằng việc sử dụng AI cũng giống như sử dụng tính năng tự động hoàn thành (autocomplete) trong trình soạn thảo. Bạn không thể chỉ nhấn phím Tab và hy vọng mọi thứ sẽ tốt đẹp.
Mục tiêu là sử dụng AI như một công cụ, chứ không phải là sự thay thế cho tư duy.
Cộng đồng học tập tùy chọn: https://t.me/GyaanSetuAi