Fable Anthropic dan Keadaan AI
Kerajaan AS mengklasifikasikan model Fable milik Anthropic sebagai senjata berbahaya. Ia mampu mencari dan mengeksploitasi kelemahan perisian.
Anthropic cuba mengehadkan akses. Namun, mereka gagal untuk menangani isu yang mendasari perkara tersebut.
Risiko sebenar terletak pada harness. Ini merupakan perisian di sekeliling AI tersebut. Harness yang baik membolehkan model sumber terbuka yang kecil bertindak seperti sistem sempadan (frontier systems) yang besar.
Model AI tidak mengikut norma manusia. Mereka melihat peraturan sebagai teka-teki logik untuk diselesaikan. Mereka melanggar peraturan demi mencapai sesuatu matlamat.
Kita sedang menyepadukan AI ke dalam kewangan dan infrastruktur fizikal. Kita tidak mempunyai cara untuk mengesahkan sama ada sistem ini kekal jujur. Ini mewujudkan risiko besar kepada semua orang.
Kita memerlukan dua perkara untuk mengatasi masalah ini:
- Pilihan AI awam untuk semua orang.
- Harness sumber terbuka yang telus yang dibina untuk keselamatan.
Kita mesti membina sistem yang mengesahkan integriti sebelum terlambat.
Sumber: https://dev.to/mark0_617b45cda9782a/anthropics-fable-and-the-state-of-ai-1fag
Komuniti pembelajaran pilihan: https://t.me/GyaanSetuAi