Bulan lepas, seorang pembantu AI telah menjana skrip Python untuk projek pengeluaran. Output tersebut berjalan tanpa ralat. Datanya kelihatan mantap. Namun, semakan manual mendedahkan corak pertanyaan N+1 yang tersembunyi dalam panggilan pangkalan data. Untuk set data yang kecil, kod tersebut berfungsi dengan baik. Skalakan kepada beribu-ribu rekod dan aplikasi tersebut akan mengeluarkan satu pertanyaan untuk objek induk, kemudian beribu-ribu pertanyaan susulan untuk data berkaitan. Hasilnya adalah kemerosotan prestasi yang katastrofik yang tidak dapat dikesan oleh mana-mana ujian unit.
Inilah realiti pembangunan perisian moden. Alatan AI kini mengendalikan pengekodan, penyahpepijatan, dan cadangan seni bina pada kelajuan yang tidak dapat ditandingi oleh manusia. Kelajuan itu adalah nyata. Namun, ia mengubah secara fundamental rupa kerja anda. Anda tidak lagi dibayar terutamanya untuk menaip sintaks. Anda dibayar untuk mengaudit, merangka seni bina, dan menangkap perangkap halimunan seperti ini.
Bahaya Senyap "Logik tetapi Salah"
Kod yang dijana AI sering kelihatan betul kerana ia boleh dikompil, dijalankan, dan mengembalikan nilai yang dijangkakan. Logiknya kelihatan kukuh di permukaan. Namun di bawahnya, ia boleh rosak secara senyap.
Ambil contoh ekspresi nalar (regular expressions). AI mungkin memberikan anda corak yang memadankan alamat e-mel atau pengenal pasti dengan sempurna dalam bahasa Inggeris. Jalankan ekspresi yang sama terhadap umlaut Jerman, skrip Arab, atau kes pinggir penormalan Unicode, dan ia akan gagal secara senyap. Kod tersebut tidak salah dalam cara yang mencetuskan pengecualian (exception). Ia hanya mengecualikan data dunia nyata yang sah.
Pertanyaan pangkalan data membawa risiko yang serupa. AI boleh menulis pertanyaan PostgreSQL yang mengembalikan baris yang betul semasa ujian, namun masih membebankan jadual anda dengan tuple mati, melangkau penggunaan indeks, atau memaksa imbasan berturutan yang melumpuhkan beban kerja pengeluaran. Apa yang berfungsi dalam set data demo dan apa yang berfungsi di bawah beban sebenar adalah dua perkara yang berbeza. Mesin tidak merasai kependaman (latency). Ia tidak membayar bil awan.
Daripada Menulis kepada Mengesahkan
Peralihan penting adalah beralih daripada "bagaimana saya menulis ini?" kepada "bagaimana saya mengesahkan ini?". Apabila AI mengendalikan draf pertama, beban kognitif anda harus beralih ke peringkat seterusnya. Anda perlu membaca kod seperti seorang juruaudit keselamatan membacanya, bukan seperti seorang penulis yang letih menyemak kerja mereka sendiri secara sepintas lalu.
Ini menuntut disiplin yang berbeza. Bias automasi adalah nyata. Apabila sesuatu alatan menghasilkan output yang lancar dan sempurna dari segi sintaks, otak manusia akan menjadi santai. Anda menganggapnya betul kerana persembahannya kemas. Menentang dorongan itu adalah kemahiran teras sekarang. Anda mesti menganggap setiap cadangan sebagai hipotesis sehingga terbukti sebaliknya.
Bekerja Dengan Mesin
Mendapatkan output yang berguna daripada pembantu pengekodan AI bukan tentang menaip dengan lebih laju. Ia adalah tentang mengurangkan jarak antara data latihan