Mengapa Chatbot AI Bukan Rakan Anda, Menurut Meredith Whittaker daripada Signal

Apabila Model Bahasa Besar (LLM) semakin disepadukan ke dalam aliran kerja digital harian kita, garis pemisah antara interaksi manusia dan respons mesin semakin kabur. Presiden Signal, Meredith Whittaker, mengeluarkan amaran keras kepada pengguna: jangan tersalah anggap pemodelan statistik yang canggih sebagai peneman sejati atau kecerdasan yang mempunyai perasaan.

Ilusi Kesedaran dalam LLM

Dalam satu temu bual baru-baru ini dengan Bloomberg, Meredith Whittaker menyentuh tentang kecenderungan yang semakin meningkat untuk memberikan sifat manusia kepada model AI seperti ChatGPT daripada OpenAI dan Claude daripada Anthropic. Beliau menekankan bahawa walaupun sistem ini mempunyai kelancaran perbualan, ia tidak mempunyai kesedaran dan agensi. "Ini bukan rakan anda. Ini bukan makhluk yang sedar. Ini bukan rakan bicara yang mempunyai perasaan," kata Whittaker, mengingatkan pengguna bahawa chatbot pada dasarnya adalah enjin canggih yang direka untuk meramalkan token seterusnya dalam satu urutan.

Kebimbangan Whittaker melangkaui definisi falsafah kepada kesan kognitif AI terhadap kreativiti manusia. Walaupun beliau mengakui menggunakan alatan AI untuk tugas-tugas kecil, seperti pemformatan dokumen, beliau enggan menggunakannya untuk penaakulan tahap tinggi. Beliau berhujah bahawa bergantung kepada AI untuk penjanaan idea berisiko "menyekat" proses pemikiran manusia, memandangkan model-model ini berfungsi dengan "mengambil purata apa yang sedia ada," yang berpotensi menyekat pemikiran asli yang bukan bersifat derivatif.

Kos Privasi AI "Agentic"

Perbualan tersebut menjadi lebih kritikal apabila membincangkan kebangkitan "AI Agents"—sistem yang direka untuk bertindak secara autonomi bagi pihak pengguna. Whittaker secara khusus menyangkal ramalan oleh CEO Microsoft AI, Mustafa Suleyman, yang mencadangkan bahawa alatan seperti Microsoft Copilot akhirnya boleh menguruskan tugas peribadi yang kompleks, seperti membeli-belah untuk percutian.

Whittaker menunjukkan pertukaran privasi yang besar yang sedia ada dalam keupayaan "agentic" sedemikian. Untuk AI menguruskan pembelian atau jadual pengguna, ia memerlukan akses menyeluruh kepada data yang sangat sensitif, termasuk:

  • Maklumat kad kredit peribadi dan sejarah pelayaran.
  • Komunikasi masa nyata melalui aplikasi seperti Signal.
  • Kalendar peribadi dan alamat rumah.

Dari sudut keselamatan, Whittaker melihat tahap integrasi ini sebagai satu kerentanan utama. Beliau menyatakan bahawa membenarkan AI memantau sembang kumpulan keluarga atau menghantar mesej kepada adik-beradik bagi pihak pengguna pada dasarnya akan membentuk sebuah "pintu belakang" (backdoor) ke dalam kehidupan digital pengguna yang paling peribadi.

Implikasi terhadap Ekosistem AI

Pendirian Whittaker menonjolkan ketegangan yang semakin meningkat dalam industri teknologi: perlumbaan untuk utiliti "agentic" berbanding hak asasi terhadap privasi dan autonomi kognitif. Memandangkan pembangun kini mendorong ke arah model yang boleh beroperasi merentasi pelbagai aplikasi, industri ini berhadapan dengan persoalan kritikal: bolehkah kita mencapai bantuan AI yang lancar tanpa mewujudkan satu titik pemantauan menyeluruh yang berpusat? Bagi pembangun dan pengasas, ini menekankan keperluan untuk membina seni bina AI "mengutamakan privasi" yang mengutamakan pemprosesan tempatan dan silo data yang ketat berbanding integrasi menyeluruh yang mempunyai akses penuh.

Rumusan Utama

  • Elakkan Antropomorfisme: Model AI adalah alat statistik, bukannya makhluk yang mempunyai kesedaran, dan menganggap mereka sebagai "kawan" boleh membawa kepada salah faham terhadap keupayaan dan risiko mereka.
  • Lindungi Autonomi Kognitif: Pergantungan berlebihan pada AI untuk sumbangsaran dan penyelesaian masalah boleh membawa kepada "regresi kepada min" (regression to the mean), di mana kreativiti manusia dibayangi oleh set data yang dirata-ratakan.
  • Jurang Privasi Agentic: Dorongan terhadap ejen AI autonomi memerlukan akses yang belum pernah berlaku sebelum ini terhadap data peribadi, sekali gus mewujudkan pintu belakang keselamatan dan kerentanan privasi yang ketara.