Ejen Boleh Memandu. Anda Tetap Perlu Tahu Laluan.
Ramai orang mahu menyerahkan segala-galanya kepada ejen AI. Mereka memberikan matlamat kepada ejen tersebut dan beredar begitu sahaja. Mereka mahukan delegasi sepenuhnya.
Ini adalah satu perangkap.
Ejen tersebut akan berfungsi kebanyakan masa. Masalah timbul apabila ia gagal. Proses binaan (build) rosak atau tingkah lakunya berubah. Model tersebut mula berpusing-pusing tanpa arah.
Jika anda tidak memahami apa yang telah dibina oleh ejen tersebut, anda tidak dapat memperbaikinya. Anda akan terkial-kial melihat kod yang tidak anda kenali. Anda tidak akan mempunyai peta untuk mencari ralat tersebut.
Anggaplah ejen AI seperti seorang pembangun junior. Seorang pembangun junior akan menghadapi jalan buntu dan meminta bantuan anda. Anda adalah jaring keselamatan mereka.
Apabila ejen tersebut gagal, andalah jaring keselamatannya. Tiada orang lain. Jika anda juga buntu, segalanya terhenti. Anda tidak boleh membaiki sistem jika anda sama sesatnya dengan ejen tersebut.
Berhenti bertanya berapa banyak yang boleh anda serahkan. Mula bertanya apa yang mesti anda terus fahami.
Anda tidak perlu menghafal setiap baris kod. Itu akan menafikan tujuan penggunaan ejen. Sebaliknya, anda mesti memahami bahagian-bahagian teras yang menyokong sistem:
• Bagaimana data bergerak melalui sistem anda. • Di mana keadaan (state) sistem disimpan. • Laluan kritikal aplikasi anda. • Titik-titik di mana bahagian yang berbeza bersambung.
Gunakan ujian ini untuk melihat jika anda sudah bersedia:
Bolehkah anda menjejaki satu permintaan (request) dari mula hingga tamat? Bolehkah anda menerangkannya secara lisan? Apabila ralat berlaku, bolehkah anda meneka di mana ia berlaku?
Jika anda boleh meneka lokasi ralat tersebut, anda memegang kawalan. Jika anda hanya menampal ralat itu semula ke dalam AI dan berharap ia diperbaiki, anda tidak memiliki sistem tersebut. Anda hanya menyewanya.
Biarkan ejen mengendalikan tugas-tugas berulang. Gunakan kepantasan itu untuk fokus pada seni bina (architecture). Kekalkan kawalan anda terhadap rangka kerja (skeleton) sistem tersebut.
Anda boleh menyerahkan tugas menaip. Anda tidak boleh menyerahkan tugas sebagai barisan pertahanan terakhir.
Sumber: https://dev.to/jaikora/the-agent-can-drive-you-still-need-to-know-the-route-274
Komuniti pembelajaran pilihan: https://t.me/GyaanSetuAi