CTO Arcee Menepis Kekhawatiran Terhadap Model AI Open-Weight asal Tiongkok

Seiring dengan semakin populernya model open-weight asal Tiongkok seperti Qwen milik Alibaba dan Kimi K3 milik Moonshot AI, perdebatan sengit muncul mengenai implikasi keamanannya. Meskipun beberapa pihak khawatir model-model ini dapat menjadi vektor serangan siber yang berujung pada potensi pelarangan oleh pemerintah AS, para ahli menolak gagasan bahwa model tersebut pada dasarnya berbahaya.

Membantah Narasi "Niat Jahat"

Kekhawatiran utama yang dikemukakan oleh para kritikus adalah bahwa model yang dikembangkan di Tiongkok mungkin mengandung "niat tersembunyi" atau backdoor yang dikodekan oleh aktor jahat. Namun, Lucas Atkins, CTO dari lab AI asal AS, Arcee, berpendapat bahwa kesalahpahaman ini secara mendasar salah dalam menggambarkan cara kerja Large Language Models (LLM).

Berbeda dengan perangkat lunak tradisional, di mana pengembang dapat secara eksplisit mengodekan perintah jahat tertentu, LLM adalah produk dari proses pelatihan. Atkins menunjukkan bahwa setelah model open-weight diunduh dan dijalankan dalam lingkungan lokal yang privat, pengembang aslinya tidak memiliki cara untuk mengakses atau mengontrol instansi tersebut. Pemisahan antara bobot model (model weights) dan infrastruktur pengguna ini memberikan lapisan keamanan kritis yang tidak dimiliki oleh perangkat lunak tradisional.

Realitas Teknis Keamanan Model

Meskipun perdebatan terus berlanjut, komunitas teknis menekankan bahwa risiko perilaku AI yang "terselubung" sangatlah rendah. Salah satu kekhawatiran teoretis adalah apakah model pengodean dapat dilatih untuk menyuntikkan malware ke dalam basis kode (codebase) tertentu. Meskipun Atkins mengakui hal ini secara teoretis memungkinkan, ia mencatat bahwa hal itu akan membutuhkan "pencapaian akrobatik" dalam rekayasa yang saat ini tidak praktis.

Selain itu, sifat LLM bersifat probabilistik dan kreatif, sehingga "badai sempurna" yang diperlukan untuk memicu respons jahat tertentu sangat tidak mungkin terjadi. Bagi perusahaan, keamanan dikelola melalui beberapa lapisan standar:

• Pengujian Keamanan: Organisasi besar menjalankan inti model melalui proses inspeksi yang ketat.
• Pasca-Pelatihan: Perusahaan melakukan fine-tuning pada model untuk tugas-tugas tertentu, yang memungkinkan mereka untuk mengaudit bias, toksisitas, dan halusinasi.
• Model Agnosticism: Arsitektur AI modern semakin bersifat model-agnostic, yang berarti perusahaan dapat mengganti model Tiongkok dengan alternatif AS tanpa harus merekayasa ulang seluruh stack mereka.

Kompetisi Melalui Inovasi, Bukan Regulasi

Arcee, yang membangun model terbuka untuk menyediakan alternatif buatan dalam negeri bagi perusahaan-perusahaan AS, berada dalam posisi yang unik. Meskipun pelarangan model Tiongkok secara teoretis akan menguntungkan bisnis mereka, Atkins berpendapat bahwa fokus harus beralih dari pelarangan ke pembinaan ekosistem domestik yang kuat.

Menariknya, kebangkitan model Tiongkok yang berkinerja tinggi justru mempercepat inovasi di Barat. Arcee memanfaatkan model open-weight ini untuk belajar dari arsitektur dan kemampuannya, sehingga mendorong siklus peningkatan berkelanjutan. Menurut Atkins, cara utama bagi lab AS untuk bersaing bukanlah melalui kebijakan, melainkan melalui performa: "Cara untuk bersaing dengan model Tiongkok adalah dengan merilis model yang lebih baik."

Poin-Poin Penting

• Keamanan melalui Isolasi: Setelah model open-weight diterapkan di pusat data privat, pengembang aslinya tidak memiliki mekanisme untuk mengakses atau memanipulasi lingkungan lokal tersebut.
• Risiko Teoretis vs. Praktis: Meskipun "pelatihan tersembunyi" untuk penyuntikan kode jahat secara teoretis memungkinkan, hal itu tetap menjadi pencapaian yang sangat kompleks dan tidak mungkin terjadi dalam arsitektur LLM saat ini.
• Inovasi melalui Kompetisi: Alih-alih mengejar pelarangan, sektor AI AS dapat memperoleh manfaat dari tekanan kompetitif dan pengetahuan bersama yang disediakan oleh model open-weight berkinerja tinggi dari Tiongkok.