Mengapa Chatbot AI Bukan Teman Anda, Menurut Meredith Whittaker dari Signal

Seiring dengan semakin terintegrasinya Large Language Models (LLM) ke dalam alur kerja digital harian kita, batasan antara interaksi manusia dan respons mesin menjadi semakin kabur. Presiden Signal, Meredith Whittaker, memberikan peringatan keras kepada pengguna: jangan salah mengira pemodelan statistik yang canggih sebagai persahabatan sejati atau kecerdasan yang memiliki kesadaran.

Ilusi Kesadaran dalam LLM

Dalam wawancara terbaru dengan Bloomberg, Meredith Whittaker menyoroti kecenderungan yang meningkat untuk melakukan antropomorfisme terhadap model AI seperti ChatGPT milik OpenAI dan Claude milik Anthropic. Ia menekankan bahwa meskipun memiliki kelancaran percakapan, sistem ini tidak memiliki kesadaran dan agensi. "Ini bukan teman Anda. Ini bukan makhluk yang sadar. Ini bukan lawan bicara yang memiliki perasaan," ujar Whittaker, mengingatkan pengguna bahwa chatbot pada dasarnya adalah mesin canggih yang dirancang untuk memprediksi token berikutnya dalam sebuah urutan.

Kekhawatiran Whittaker melampaui definisi filosofis hingga ke dampak kognitif AI terhadap kreativitas manusia. Meskipun ia mengakui menggunakan alat AI untuk tugas-tugas kecil, seperti pemformatan dokumen, ia menolak menggunakannya untuk penalaran tingkat tinggi. Ia berpendapat bahwa mengandalkan AI untuk pencetusan ide berisiko "menutup" proses berpikir manusia, karena model-model ini berfungsi dengan cara "merata-ratakan apa yang sudah ada di luar sana," yang berpotensi menghambat pemikiran orisinal yang bukan sekadar turunan.

Biaya Privasi dari AI "Agentic"

Percakapan tersebut berubah menjadi lebih kritis saat membahas kebangkitan "AI Agents"—sistem yang dirancang untuk bertindak secara otonom atas nama pengguna. Whittaker secara khusus membantah prediksi CEO Microsoft AI, Mustafa Suleyman, yang menyarankan bahwa alat seperti Microsoft Copilot pada akhirnya dapat mengelola tugas-tugas pribadi yang kompleks, seperti belanja liburan.

Whittaker menunjukkan pertukaran privasi yang besar yang melekat dalam kemampuan "agentic" tersebut. Agar AI dapat mengelola belanja atau jadwal pengguna, ia memerlukan akses menyeluruh ke data yang sangat sensitif, termasuk:

  • Informasi kartu kredit pribadi dan riwayat penelusuran.
  • Komunikasi waktu nyata melalui aplikasi seperti Signal.
  • Kalender pribadi dan alamat rumah.

Dari sudut pandang keamanan, Whittaker memandang tingkat integrasi ini sebagai kerentanan utama. Ia mencatat bahwa mengizinkan AI untuk memantau obrolan grup keluarga atau mengirim pesan kepada saudara atas nama pengguna pada dasarnya akan menjadi "pintu belakang" (backdoor) ke kehidupan digital pengguna yang paling pribadi.

Implikasi bagi Ekosistem AI

Sikap Whittaker menyoroti ketegangan yang berkembang di industri teknologi: perlombaan untuk kegunaan "agentic" versus hak fundamental atas privasi dan otonomi kognitif. Saat pengembang mendorong model yang dapat beroperasi di berbagai aplikasi, industri menghadapi pertanyaan kritis: dapatkah kita mencapai bantuan AI yang mulus tanpa menciptakan titik terpusat untuk pengawasan total? Bagi para pengembang dan pendiri, hal ini menekankan perlunya membangun arsitektur AI yang "privacy-first" yang memprioritaskan pemrosesan lokal dan silo data yang ketat daripada integrasi yang meresap dan memiliki akses penuh.

Poin-Poin Penting

  • Hindari Antropomorfisme: Model AI adalah alat statistik, bukan makhluk yang memiliki kesadaran, dan memperlakukan mereka sebagai "teman" dapat menyebabkan kesalahpahaman terhadap kemampuan dan risikonya.
  • Lindungi Otonomi Kognitif: Ketergantungan berlebih pada AI untuk brainstorming dan pemecahan masalah dapat menyebabkan "regresi menuju rata-rata" (regression to the mean), di mana kreativitas manusia terbayangi oleh kumpulan data rata-rata.
  • Kesenjangan Privasi Agentic: Dorongan untuk agen AI otonom memerlukan akses yang belum pernah terjadi sebelumnya ke data pribadi, yang menciptakan pintu belakang keamanan dan kerentanan privasi yang signifikan.