สร้างสมอง AI ส่วนตัวบนแล็ปท็อปของคุณ
คุณไม่จำเป็นต้องจ่ายค่าสมัครสมาชิกรายเดือน 20 ดอลลาร์เพื่อเป็นเจ้าของ AI ที่ทรงพลัง คุณสามารถสร้างสมองส่วนตัวขึ้นมาได้ด้วยฮาร์ดแวร์ของคุณเอง
ผมสร้างสิ่งนี้บนแล็ปท็อป Windows เครื่องเก่าที่ไม่มี GPU ค่าซอฟต์แวร์คือ 0 ดอลลาร์ ทุกอย่างเป็นโอเพนซอร์ส (open source)
AI ส่วนตัวของคุณทำได้ 4 อย่าง:
- รันแบบโลคัลโดยไม่มีข้อมูลใดๆ หลุดออกจากเครื่องของคุณ
- ค้นหาไฟล์ของคุณเอง เช่น PDF และโน้ตต่างๆ
- ตอบคำถามโดยอ้างอิงจากเอกสารของคุณ
- ใช้งานผ่าน Telegram bot บนโทรศัพท์ของคุณ
ระบบนี้มี 5 เลเยอร์:
- Foundation: Ollama ใช้รันโมเดล ส่วน Docker ใช้รันบริการต่างๆ
- Memory: Qdrant ใช้จัดเก็บข้อมูลของคุณ และ PostgreSQL ใช้ติดตามข้อมูล
- Intelligence: RAG ค้นหาข้อมูลในหน่วยความจำเพื่อตอบคำถาม
- Automation: โฟลเดอร์ Watcher จะเรียนรู้ไฟล์ใหม่ๆ โดยอัตโนมัติ
- Agents: ผู้ช่วยอัจฉริยะที่ทำงานได้ด้วยตัวเอง เพื่อค้นคว้าและเขียนงานให้คุณ
วิธีเริ่มต้น:
ขั้นตอนที่ 1: ติดตั้ง Ollama ไปที่ ollama.com แล้วรันคำสั่งเหล่านี้ใน terminal ของคุณ:
ollama pull llama3.2:3b(สำหรับเริ่มต้นแบบรวดเร็ว)ollama pull mistral:7b(อัปเกรดเพื่อความฉลาดที่มากขึ้น)ollama pull nomic-embed-text(สำหรับหน่วยความจำ)
ขั้นตอนที่ 2: ตั้งค่า Docker ดาวน์โหลด Docker Desktop จาก docker.com ใช้ไฟล์ docker-compose เพื่อรัน Open WebUI, Qdrant และ Postgres ซึ่งจะทำให้คุณมีหน้าจอแชทที่ localhost:8080
ขั้นตอนที่ 3: สร้างหน่วยความจำ ใช้ Python ในการอ่านไฟล์ของคุณ เมื่อคุณลากไฟล์ PDF ลงในโฟลเดอร์ ระบบจะ:
- สกัดข้อความออกมา
- แบ่งข้อความเป็นส่วนย่อยๆ (chunks)
- แปลงข้อความเป็นตัวเลข (embeddings)
- จัดเก็บไว้ใน Qdrant
ตอนนี้ คุณสามารถถามได้ว่า: "ในสัญญาของฉันระบุเรื่องการชำระเงินไว้ว่าอย่างไร?" แล้ว AI จะค้นหาโน้ตที่เกี่ยวข้องและตอบคำถามให้คุณ
คำแนะนำจากประสบการณ์ความล้มเหลวของผม:
- สำหรับผู้ใช้ Windows: หาก Docker ค้าง ให้รัน
wsl --shutdownใน PowerShell - สำหรับผู้ใช้ Windows: อย่าใช้
network_mode: hostให้ใช้การทำ port mapping แทน - หลีกเลี่ยงการแครช: หากสคริปต์ของคุณมีการใช้ emoji ให้เพิ่ม
sys.stdout.reconfigure(encoding="utf-8")ลงในโค้ดของคุณ - ความเสถียร: ควรเพิ่ม
connect_timeoutในการเชื่อมต่อฐานข้อมูลเสมอ
สร้างเป็นระยะๆ:
- สัปดาห์ที่ 1: ตั้งค่า Foundation และ Memory
- สัปดาห์ที่ 2: เพิ่ม Automation และ Telegram
- สัปดาห์ที่ 3: ติดตั้ง Research Agents
ระบบของคุณจะฉลาดขึ้นทุกครั้งที่คุณเพิ่มไฟล์ มันทำงานให้คุณแม้ในขณะที่คุณหลับ
แหล่งที่มา: https://dev.to/theonaiao/build-a-private-ai-brain-on-your-laptop-458f
ชุมชนแห่งการเรียนรู้ (ไม่บังคับ): https://t.me/GyaanSetuAi