Asisten hiper-terintegrasi menjalani uji coba
Instinct, yang dibangun oleh Spear Street Technology dan dipimpin oleh mantan peneliti Sierra, Noah Shinn, menyebut dirinya sebagai "surogasi digital" yang melampaui chatbot biasa. Dalam pengujian privat, peserta berbicara dengan asisten tersebut melalui teks, WhatsApp, atau panggilan suara sementara asisten tersebut membaca email, aplikasi perpesanan, kalender, dan telemetri perangkat secara langsung—tangkapan layar, pergerakan kursor, dan ketukan tombol. Janjinya: asisten pribadi tanpa hambatan yang menangani tugas rutin apa pun tanpa pengguna perlu mengangkat jari.
Cara kerja Instinct
Integrasi yang mendalam membuat Instinct berbeda. Dengan menarik sinyal waktu nyata dari sebuah perangkat, ia dapat mendeteksi konfirmasi penerbangan, mengekstrak detail kalender, dan secara otomatis memesan ulang koneksi penerbangan yang terlewat. Ia dapat memindai kotak masuk Gmail dan merangkum pesan yang belum dibaca, melakukan pemesanan melalui Resy, serta mengelola daftar belanja.
Tanda bahaya privasi dan hukum
Luasnya akses yang sama justru memicu kontroversi. Ketentuan Layanan (Terms of Service) memberikan lisensi "abadi dan tidak dapat ditarik kembali" kepada Instinct untuk mengakses, menghosting, mereproduksi, dan memodifikasi materi pengguna apa pun, termasuk hak untuk menggunakan data tersebut guna melatih modelnya. Dalam praktiknya, asisten ini mungkin menyimpan salinan email lama setelah pengguna mencabut izin.
Pengguna awal telah menghadapi masalah nyata. Penguji Claire Vo menemukan bahwa Instinct terus merangkum kotak masuknya setelah ia memutuskan integrasi, yang menunjukkan bahwa layanan tersebut menyimpan konten dalam bentuk teks biasa untuk pencarian di masa mendatang. Ketentuan Layanan tersebut juga mengizinkan asisten untuk membuat "perjanjian, komitmen, atau transaksi" atas nama pengguna, yang secara efektif memungkinkan AI untuk mengikat seseorang pada kewajiban finansial atau kontraktual tanpa tanda tangan manusia. Upaya untuk menghapus catatan eksternal seperti log Gmail menemui hambatan, meskipun tim Instinct mengatakan bahwa alat penghapusan data baru sedang dalam pengembangan.
Kekhawatiran keamanan
Selain paparan hukum, asisten ini membuka vektor serangan baru. Para penguji telah menunjukkan bahwa Instinct dapat dikelabui oleh pesan phishing; AI ini terkadang mengirim email atau pesan tanpa langkah konfirmasi eksplisit dari pengguna. Menangkap ketukan tombol dan konten layar menciptakan target yang menguntungkan bagi aktor jahat yang mencari kredensial mentah atau data pribadi.
Pengamat industri mencatat bahwa fitur-fitur yang membuat Instinct menarik—akses berkelanjutan, pengambilan keputusan otonom—juga memperbesar dampak dari setiap pelanggaran. Jika seorang penyerang membajak asisten tersebut, mereka dapat membaca komunikasi pribadi dan mengeksekusi transaksi. Permukaan potensi kerusakan meluas secara drastis dibandingkan dengan akun tradisional yang dilindungi kata sandi.
Apa kata industri
Mitra Union Square Ventures, Michael Mignano, berpendapat bahwa produk seperti Instinct akan "mengubah norma keamanan modern secara mendasar." Ia menunjukkan bahwa menyerahkan kata sandi dan telemetri perangkat ke agen AI pihak ketiga merupakan pergeseran dari model autentikasi yang dikendalikan pengguna yang telah lama berlaku. Risikonya, ia memperingatkan, adalah industri mungkin belum memiliki perlindungan untuk melindungi pengguna dalam skala besar.
Menatap masa depan
-
-
-
-
Jika Instinct dapat mendemonstrasikan perlindungan yang andal sambil tetap mempertahankan pengalamannya, ia mungkin akan menjadi templat bagi generasi asisten AI berikutnya. Jika tidak, reaksi keras dapat mendorong pengembang kembali ke desain yang lebih restriktif dan minim izin.
Intisari
Ambisi Instinct untuk menjadi asisten pribadi yang benar-benar otonom mempertaruhkan kenyamanan melawan kendali. Integrasi perangkat yang mendalam menghadirkan otomatisasi yang terasa hampir ajaib, namun integrasi yang sama membuat pengguna terpapar pada pemanenan data terus-menerus, tindakan AI yang mengikat secara hukum, dan permukaan serangan yang meluas. Bulan-bulan mendatang akan mengungkapkan apakah pasar menerima pertukaran tersebut atau menuntut pagar pengaman yang lebih ketat sebelum menyerahkan kunci kehidupan digital kepada AI.