Bangun Otak AI Pribadi di Laptop Anda

𝗕𝗮𝗻𝗴𝘂𝗻 𝗢𝘁𝗮𝗸 𝗔𝗜 𝗣𝗿𝗶𝗯𝗮𝗱𝗶 𝗱𝗶 𝗟𝗮𝗽𝘁𝗼𝗽 𝗔𝗻𝗱𝗮

Anda tidak perlu berlangganan bulanan seharga $20 untuk memiliki AI yang canggih. Anda dapat membangun otak pribadi di perangkat keras Anda sendiri.

Saya membangun ini di laptop Windows lama tanpa GPU. Biaya perangkat lunaknya $0. Semuanya bersifat open source.

AI pribadi Anda melakukan empat hal:

• Berjalan secara lokal tanpa data keluar dari mesin Anda.
• Mencari file Anda sendiri seperti PDF dan catatan.
• Menjawab pertanyaan berdasarkan dokumen Anda.
• Bekerja melalui bot Telegram di ponsel Anda.

Sistem ini memiliki lima lapisan:

1. Foundation: Ollama menjalankan model. Docker menjalankan layanan.
2. Memory: Qdrant menyimpan data Anda. PostgreSQL melacaknya.
3. Intelligence: RAG mencari memori Anda untuk menjawab pertanyaan.
4. Automation: Folder pemantau (watcher folder) mempelajari file baru secara otomatis.
5. Agents: Pekerja otonom yang melakukan riset dan menulis untuk Anda.

Cara memulai:

Langkah 1: Instal Ollama. Buka ollama.com. Jalankan perintah ini di terminal Anda:

• ollama pull llama3.2:3b (starter cepat)
• ollama pull mistral:7b (upgrade yang lebih cerdas)
• ollama pull nomic-embed-text (untuk memori)

Langkah 2: Siapkan Docker. Dapatkan Docker Desktop dari docker.com. Gunakan file docker-compose untuk menjalankan Open WebUI, Qdrant, dan Postgres. Ini akan memberi Anda antarmuka chat di localhost:8080.

Langkah 3: Bangun memorinya. Gunakan Python untuk mengurai (parse) file Anda. Saat Anda memasukkan PDF ke dalam folder, sistem akan:

• Mengekstrak teksnya.
• Membaginya menjadi potongan-potongan (chunks).
• Mengonversi teks menjadi angka (embeddings).
• Menyimpannya di Qdrant.

Sekarang, Anda bisa bertanya: "Apa isi kontrak saya mengenai pembayaran?" AI akan menemukan catatan spesifik tersebut dan menjawabnya.

Saran nyata dari kegagalan saya:

• Pengguna Windows: Jika Docker macet, jalankan wsl --shutdown di PowerShell.
• Pengguna Windows: Jangan gunakan network_mode: host. Gunakan port mapping.
• Hindari crash: Jika skrip Anda menggunakan emoji, tambahkan sys.stdout.reconfigure(encoding="utf-8") ke dalam kode Anda.
• Keandalan: Selalu tambahkan connect_timeout pada koneksi database Anda.

Bangun secara bertahap.

• Minggu 1: Siapkan fondasi dan memori.
• Minggu 2: Tambahkan otomatisasi dan Telegram.
• Minggu 3: Luncurkan agen riset.

Sistem Anda menjadi lebih cerdas setiap kali Anda menambahkan file. Ia bekerja saat Anda tidur.

Sumber: https://dev.to/theonaiao/build-a-private-ai-brain-on-your-laptop-458f

Komunitas belajar opsional: https://t.me/GyaanSetuAi