Mod AI Meta: Risiko Menggunakan Data Media Sosial sebagai Asas Carian

Meta sedang cuba mentakrifkan semula pengalaman carian dengan menyepadukan "Mod AI" baharunya secara terus ke dalam aplikasi Facebook. Walaupun ciri ini menjanjikan penyelesaian kepada pertanyaan perbualan yang kompleks, kebergantungannya kepada kandungan jana pengguna menimbulkan persoalan besar tentang ketepatan dan penyebaran maklumat palsu.

Pendekatan Baharu untuk Carian Perbualan

Mod AI Meta direka untuk berfungsi secara serupa dengan carian bersepadu AI milik Google, melangkaui padanan kata kunci ringkas untuk menjawab soalan yang bernuansa. Daripada sekadar menyediakan senarai pautan, mod ini bertujuan untuk memberikan jawapan yang disintesis bagi pertanyaan seperti "Apa yang patut saya lakukan hujung minggu ini?" atau "Rancang perjalanan hujung minggu ke Tokyo."

Perbezaan teras—dan punca utama perdebatan—ialah sumber data. Tidak seperti enjin carian tradisional yang merangkak (crawl) web yang lebih luas, Mod AI Meta banyak mengambil data daripada hantaran awam di seluruh ekosistemnya, termasuk Kumpulan Facebook dan Instagram Reels. Ini membolehkan model tersebut memanfaatkan data hiper-lokal, seperti pengumuman kejiranan, kemas kini organisasi tempatan, dan cadangan acara berasaskan komuniti yang mungkin tidak diindeks dengan baik oleh perangkak (crawler) tradisional.

Dilema Maklumat Palsu: Asas Data (Grounding) lwn. Halusinasi

Cabaran teknikal untuk menjadikan data media sosial sebagai asas (grounding) bagi LLM (Large Language Model) adalah sangat besar. Oleh kerana model ini menggunakan hantaran Facebook sebagai "kebenaran asas" (ground truth), ia mewarisi ketidaktentuan kandungan platform tersebut. Pengkritik berpendapat bahawa mendasarkan respons AI pada hantaran media sosial boleh mewujudkan "mimpi ngeri yang nyata" di mana AI memperkuatkan teori pinggiran atau maklumat lapuk yang dikongsi dalam kumpulan khusus.

Walau bagaimanapun, ujian awal menunjukkan bahawa Meta telah melaksanakan langkah kawalan (guardrails) yang ketara. Semasa penilaian secara langsung, Mod AI sukar untuk menghasilkan maklumat palsu yang berisiko tinggi berkaitan topik sensitif seperti keselamatan vaksin, integriti pilihan raya, atau teori konspirasi sejarah. Ini menunjukkan bahawa walaupun model tersebut berasaskan data pengguna, ia berkemungkinan menggunakan lapisan pengesahan sekunder atau "penapis keselamatan" untuk menghalangnya daripada mengulang semula dakwaan berbahaya atau yang telah disangkal yang ditemui dalam suapan sosial.

Mengapa Ini Penting untuk Landskap AI

Langkah Meta mewakili peralihan strategik dalam perang AI: beralih daripada AI "Pengetahuan Am" kepada AI "Kontekstual/Sosial". Walaupun OpenAI dan Google bersaing dari segi keluasan data latihan mereka, Meta memanfaatkan kelebihan uniknya—graf sosial masa nyata dan hiper-lokal daripada berbilion pengguna.

Jika Meta berjaya mengimbangi kegunaan cerapan berasaskan sosial dan tempatan dengan ketepatan ketat yang diperlukan untuk carian, ia boleh mendominasi segmen AI "gaya hidup dan perancangan". Walau bagaimanapun, halangan teknikal tetap ada: bagaimana untuk menghalang model daripada menganggap hantaran yang sedang tular tetapi palsu dalam Kumpulan Facebook sebagai satu realiti fakta.

Ringkasan Utama