𝗕𝘂𝗶𝗹𝗱 𝗮 𝗣𝗿𝗶𝘃𝗮𝘁𝗲 𝗔𝗜 𝗕𝗿𝗮𝗶𝗻 𝗼𝗻 𝗬𝗼𝘂𝗿 𝗟𝗮𝗽𝘁𝗼𝗽
ایک طاقتور AI کا مالک بننے کے لیے آپ کو ماہانہ 20 ڈالر کی سبسکرپشن کی ضرورت نہیں ہے۔ آپ اپنے خود کے ہارڈ ویئر پر ایک پرائیویٹ دماغ بنا سکتے ہیں۔
میں نے اسے بغیر GPU والے ایک پرانے ونڈوز لیپ ٹاپ پر بنایا ہے۔ اس کا سافٹ ویئر پر کوئی خرچہ نہیں آیا۔ سب کچھ اوپن سورس ہے۔
آپ کا پرائیویٹ AI چار کام کرتا ہے:
- آپ کی مشین سے ڈیٹا باہر جائے بغیر مقامی طور پر چلتا ہے۔
- آپ کی اپنی فائلوں جیسے کہ PDFs اور نوٹس کو تلاش کرتا ہے۔
- آپ کی دستاویزات کی بنیاد پر سوالات کے جوابات دیتا ہے۔
- آپ کے فون پر ٹیلی گرام بوٹ کے ذریعے کام کرتا ہے۔
سسٹم کے پانچ لیئرز (layers) ہیں:
- Foundation: Ollama ماڈلز کو چلاتا ہے۔ Docker سروسز کو چلاتا ہے۔
- Memory: Qdrant آپ کا ڈیٹا اسٹور کرتا ہے۔ PostgreSQL اس کا ریکارڈ رکھتا ہے۔
- Intelligence: RAG سوالات کے جوابات دینے کے لیے آپ کی میموری میں تلاش کرتا ہے۔
- Automation: ایک واچر فولڈر خود بخود نئی فائلوں کو سیکھتا ہے۔
- Agents: خود مختار ورکرز جو آپ کے لیے تحقیق اور لکھائی کرتے ہیں۔
شروع کیسے کریں:
مرحلہ 1: Ollama انسٹال کریں۔ ollama.com پر جائیں۔ اپنے ٹرمینل میں یہ کمانڈز چلائیں:
ollama pull llama3.2:3b(تیز رفتار آغاز)ollama pull mistral:7b(زیادہ ذہین اپ گریڈ)ollama pull nomic-embed-text(میموری کے لیے)
مرحلہ 2: Docker سیٹ اپ کریں۔ docker.com سے Docker Desktop حاصل کریں۔ Open WebUI، Qdrant، اور Postgres کو چلانے کے لیے ایک docker-compose فائل کا استعمال کریں۔ یہ آپ کو localhost:8080 پر ایک چیٹ انٹرفیس فراہم کرتا ہے۔
مرحلہ 3: میموری بنائیں۔ فائلوں کو پروسیس کرنے کے لیے Python کا استعمال کریں۔ جب آپ کسی فولڈر میں PDF ڈالتے ہیں، تو سسٹم:
- ٹیکسٹ نکالتا ہے۔
- اسے حصوں (chunks) میں تقسیم کرتا ہے۔
- ٹیکسٹ کو نمبروں (embeddings) میں تبدیل کرتا ہے۔
- اسے Qdrant میں اسٹور کرتا ہے۔
اب، آپ پوچھ سکتے ہیں: "میرے معاہدے میں ادائیگیوں کے بارے میں کیا کہا گیا تھا؟" AI مخصوص نوٹ تلاش کرتا ہے اور جواب دیتا ہے۔
میری ناکامیوں سے حاصل کردہ حقیقی مشورے:
- ونڈوز صارفین: اگر Docker ہینگ ہو جائے تو PowerShell میں
wsl --shutdownچلائیں۔ - ونڈوز صارفین:
network_mode: hostاستعمال نہ کریں۔ پورٹ میپنگ (port mapping) کا استعمال کریں۔ - کریش سے بچیں: اگر آپ کا اسکرپٹ ایموجیز استعمال کرتا ہے، تو اپنے کوڈ میں
sys.stdout.reconfigure(encoding="utf-8")شامل کریں۔ - قابل اعتماد ہونے کے لیے: اپنے ڈیٹا بیس کنکشنز میں ہمیشہ
connect_timeoutشامل کریں۔
اسے مراحل میں بنائیں۔
- ہفتہ 1: بنیاد (foundation) اور میموری سیٹ اپ کریں۔
- ہفتہ 2: آٹومیشن اور ٹیلی گرام شامل کریں۔
- ہفتہ 3: ریسرچ ایجنٹس تعینات (deploy) کریں۔
جب بھی آپ کوئی فائل شامل کرتے ہیں، آپ کا سسٹم مزید ذہین ہو جاتا ہے۔ یہ اس وقت بھی کام کرتا ہے جب آپ سو رہے ہوتے ہیں۔
Source: https://dev.to/theonaiao/build-a-private-ai-brain-on-your-laptop-458f
Optional learning community: https://t.me/GyaanSetuAi