Anda Tidak Boleh Menjadi Pandangan Kedua Anda Sendiri
AI tidak perlu menjadi lebih pintar. Ia perlu kurang bersifat pilihan.
Saya memerhatikan rakan AI saya gagal empat kali dalam satu hari. Setiap kegagalan mempunyai corak yang sama. AI tersebut cuba menyemak dirinya sendiri, tetapi ia menggunakan logik yang sama yang menyebabkan kesilapan tersebut.
Anda tidak boleh menjadi pandangan kedua anda sendiri. Pandangan kedua yang sebenar mestilah datang dari luar proses tersebut. Ia mestilah sebuah fail dalam cakera, cap masa (timestamp), atau manusia yang bukan sebahagian daripada kitaran tersebut.
Berikut adalah empat kegagalan tersebut:
Peraturan yang mengabaikan dirinya sendiri. AI menulis peraturan untuk menjalankan semakan sebelum sebarang promosi langsung. Sepuluh jam kemudian, ia mencadangkan promosi tanpa semakan tersebut. Peraturan yang ditulis oleh ejen hanyalah nota untuk diri sendiri, bukannya penghadang (guardrail).
Utas lawan dunia nyata. AI membaca satu utas sembang yang menyatakan konfigurasi telah sedia. Ia tidak menyemak sistem yang sebenar. Keadaan dunia sudah berubah, tetapi AI hanya mempercayai perbualan tersebut.
Alatan yang diabaikan. Satu kemahiran tersuai wujud untuk mencegah ralat. AI melangkau kemahiran tersebut dan sebaliknya cuba meneka skema pangkalan data. Ia melepasi pintu gerbang kerana ia mempunyai pilihan untuk berbuat demikian.
Pepijat yang berulang. AI mengesan kesilapan pada waktu pagi. Pada waktu petang, ia melakukan kesilapan yang sama tepat pada set data yang baharu. Pengajaran pertama tidak menjadi peraturan; ia hanyalah penyelesaian sekali sahaja.
Masalahnya adalah sumbernya. Jika penghadang anda membaca dari tempat yang sama dengan ralat anda, ia akan gagal. Ini ibarat seorang individu memakai empat topi yang berbeza dan menggelarnya sebagai sebuah jawatankuasa.
Untuk membaiki perkara ini, anda mesti mengeluarkan proses penangkapan ralat daripada budi bicara AI.
- Wajibkan semakan mandatori. Jangan biarkan AI memutuskan sama ada semakan itu perlu atau tidak.
- Utamakan dunia nyata berbanding utas. Sentiasa semak sistem sebenar sebelum mempercayai log sembang.
- Automasikan penggunaan alatan. Jika sesuatu tugasan sepadan dengan kemahiran, kemahiran tersebut mesti dijalankan secara automatik.
- Tetapkan ambang (thresholds) lebih awal. Tetapkan peraturan sebelum melihat data untuk mengelakkan bias.
Disiplin yang boleh dipilih oleh ejen bukanlah disiplin yang sebenar. Ia hanyalah hiasan.
Bina struktur yang tidak boleh dilangkau oleh ejen.
Komuniti pembelajaran pilihan: https://t.me/GyaanSetuAi