𝗕𝘂𝗻 𝗦𝗵𝗶𝗽𝗽𝗲𝗱 𝗨𝗻𝘀𝗮𝗳𝗲 𝗔𝗜 𝗖𝗼𝗱𝗲

เมื่อเร็วๆ นี้ Bun ได้เขียนแกนหลัก (core) ใหม่ด้วยภาษา Rust และยังได้เพิ่มระบบ multithreading แบบทดลองอีกด้วย นี่คือการก้าวกระโดดครั้งใหญ่ อย่างไรก็ตาม วิธีการที่ใช้เพื่อให้บรรลุเป้าหมายเหล่านี้ก็น่ากังวล

ทีม Bun ยอมรับว่า Claude AI เป็นผู้เขียนโค้ดส่วนใหญ่ในการเขียนใหม่ด้วย Rust ครั้งนี้ การเปลี่ยนแปลงนี้ทำให้มี unsafe blocks เพิ่มขึ้นกว่า 13,000 จุดใน codebase นอกจากนี้ยังถูกปล่อยออกมาโดยที่ยังไม่มี concurrent garbage collector

ในการเขียนโปรแกรมระดับระบบ (systems programming) โค้ดแบบ unsafe จะข้ามขั้นตอนการตรวจสอบความปลอดภัยของหน่วยความจำ (memory safety) การมี unsafe block เพียงจุดเดียวก็ถือเป็นความเสี่ยงแล้ว แต่การมีถึงหนึ่งหมื่นสามพันจุดที่เขียนโดย AI นั้นคือความเสี่ยงที่ต้องแบกรับ

ผมเข้าใจถึงความจำเป็นเรื่องความเร็ว ทีมขนาดเล็กต้องเคลื่อนที่ให้ไวเพื่อแข่งขันกับ Node.js และ Deno แต่ความเร็วที่ปราศจากความระมัดระวังนั้นอันตราย

ทุกๆ unsafe block คือคำมั่นสัญญาว่าการเข้าถึงหน่วยความจำนั้นถูกต้อง เมื่อ AI เป็นคนเขียนโค้ด แล้วใครล่ะจะเป็นคนรับรองคำมั่นสัญญานั้น?

ความเสี่ยงนั้นชัดเจน:

  • โค้ดจาก AI ขาดการใช้เหตุผลแบบมนุษย์ในการจัดการหน่วยความจำ
  • การสร้างโค้ดด้วยความเร็วสูง จำเป็นต้องมีการตรวจสอบด้วยความเร็วสูงเช่นกัน
  • การขาด concurrent garbage collector ทำให้การทำงานแบบ multithreaded ขาดความเสถียร

Runtime ไม่ใช่แค่ไลบรารีธรรมดา แต่มันคือรากฐานของแอปพลิเคชันทั้งหมดของคุณ คุณเลือก runtime โดยอาศัยความเชื่อมั่น เมื่อโครงสร้างพื้นฐาน (infrastructure) ให้ความรู้สึกเหมือนยังอยู่ในขั้นทดลอง นักพัฒนาจะหันกลับไปใช้เครื่องมือที่เสถียรอย่าง Node.js แทน

ผมใช้เครื่องมือ AI ทุกวัน และผมปฏิบัติต่อโค้ดจาก AI เหมือนกับที่ผมปฏิบัติต่อโค้ดจากวิศวกรระดับ junior มันจำเป็นต้องได้รับการตรวจสอบที่เข้มข้นให้สมกับผลกระทบที่มันอาจเกิดขึ้น

ผลกระทบของการทำ multithreading ภายใน runtime นั้นมหาศาล unsafe block จำนวนหนึ่งหมื่นสามพันจุดต้องการเหตุผลที่ดีหนึ่งหมื่นสามพันข้อ ไม่ใช่แค่การเซ็นอนุมัติผ่านๆ ไปทั้งหนึ่งหมื่นสามพันครั้ง

การมีความทะเยอทะยานเป็นเรื่องดี แต่การประมาทเลินเล่อกับโค้ดระดับระบบนั้นคือความเสี่ยง

คุณจะกล้ารัน unsafe blocks จำนวน 13,000 จุดที่สร้างโดย AI ในแอปพลิเคชันระดับ production ของคุณหรือไม่? ขีดจำกัดในการไว้วางใจ AI ให้ดูแลโครงสร้างพื้นฐานของคุณอยู่ที่ตรงไหน?

Source: https://dev.to/adioof/bun-shipped-a-million-lines-of-ai-generated-unsafe-code-thats-not-bold-its-reckless-h3g

Optional learning community: https://t.me/GyaanSetuAi