𝗢𝗽𝗲𝗻-𝗦𝗼𝘂𝗿𝗰𝗲 𝗟𝗟𝗠 𝗔𝗴𝗲𝗻𝘁𝘀 𝗮𝗻𝗱 𝗟𝗼𝗰𝗮𝗹 𝗔𝗜 𝗖𝗼𝗽𝗶𝗹𝗼𝘁𝘀
Kini anda boleh membina sistem AI yang kompleks pada perkakasan anda sendiri. AI Tempatan kini melangkaui sekadar sembang ringkas. Alatan sumber terbuka baharu membolehkan anda menjalankan ejen dan sistem analisis tanpa API awan yang mahal.
Berikut adalah tiga kemas kini utama dalam ruang AI tempatan:
ByteDance DeerFlow Ini adalah rangka kerja untuk membina ejen autonomi. Ia menggunakan sandbox, memori, dan sub-ejen untuk mengendalikan tugasan panjang seperti penyelidikan dan pengekodan. Ia menyediakan struktur yang diperlukan untuk menjalankan aliran kerja ejen yang canggih menggunakan model tempatan pada GPU anda sendiri.
Analisis Saham Hos-Sendiri Projek GitHub ini menggunakan LLM untuk menganalisis saham pelbagai pasaran. Ia menarik berita masa nyata dan data pasaran untuk mencipta papan pemuka keputusan. Oleh kerana ia dihoskan sendiri, anda boleh menjalankannya secara percuma menggunakan inferens tempatan dan kuantisasi. Ia merupakan pelan tindakan untuk menggunakan model terbuka dengan data kewangan.
Copilot AI Desktop Masa Nyata Membina copilot AI untuk panggilan langsung adalah sukar. Pembangun sedang menyelesaikan isu kependaman yang diperlukan untuk pertuturan-ke-teks masa nyata dan pemprosesan LLM. Ini melibatkan pengoptimuman pemuatan model dan penggunaan enjin inferens yang cekap untuk memastikan AI bertindak balas dengan cepat pada mesin desktop standard.
Alatan ini menunjukkan bahawa anda tidak memerlukan bajet awan yang besar untuk membina AI yang canggih. Anda hanya memerlukan rangka kerja sumber terbuka yang betul dan model tempatan yang dioptimumkan.
Komuniti pembelajaran pilihan: https://t.me/GyaanSetuAi