Ubuntu 24.04 पर Jina Serve को डिप्लॉय करें

Jina Serve आपको न्यूरल सर्च और AI एप्लिकेशन बनाने में मदद करता है। यह बैचिंग और माइक्रोसर्विसेज को मैनेज करने के लिए क्लाउड-नेटिव रनटाइम का उपयोग करता है।

यह गाइड आपको सुरक्षित HTTPS के लिए Docker Compose और Traefik का उपयोग करके Ubuntu 24.04 पर Jina Flow को डिप्लॉय करना सिखाती है।

डिप्लॉय करने के चरण:

  1. अपने प्रोजेक्ट स्ट्रक्चर को सेटअप करें अपने एक्जीक्यूटर (executor) के लिए एक डायरेक्टरी बनाएं और उसमें जाएं।

  2. अपना एक्जीक्यूटर मॉड्यूल लिखें टेक्स्ट प्रोसेसिंग को संभालने के लिए एक Python स्क्रिप्ट बनाएं। आप यहाँ index और search एंडपॉइंट्स को परिभाषित कर सकते हैं।

  3. डिपेंडेंसीज़ को परिभाषित करें requirements.txt फ़ाइल में jina और docarray को सूचीबद्ध करें।

  4. लोडर को कॉन्फ़िगर करें अपने Python मॉड्यूल को Jina से जोड़ने के लिए config.yml फ़ाइल का उपयोग करें।

  5. Flow को परिभाषित करें अपना प्रोटोकॉल और पोर्ट सेट करने के लिए flow.yml फ़ाइल बनाएं।

  6. Docker इमेज बनाएं अपने flow और डिपेंडेंसीज़ को एक सिंगल कंटेनर में समाहित करने के लिए Dockerfile लिखें।

  7. एनवायरनमेंट वेरिएबल्स सेटअप करें SSL सर्टिफिकेट के लिए अपने डोमेन और ईमेल को मैनेज करने के लिए .env फ़ाइल का उपयोग करें।

  8. Docker Compose को कॉन्फ़िगर करें ऑटोमैटिक HTTPS को संभालने के लिए Traefik का उपयोग करें। यह सुनिश्चित करता है कि आपका API सुरक्षित है।

  9. स्टैक शुरू करें अपनी सेवाओं को बनाने और शुरू करने के लिए docker compose up चलाएं।

एक बार चलने के बाद, आप curl कमांड के साथ अपने API का परीक्षण कर सकते हैं। आप /index एंडपॉइंट पर टेक्स्ट भेज सकते हैं और प्रोसेस्ड परिणाम प्राप्त कर सकते हैं।

आपकी AI सेवा के लिए अगले कदम: • एम्बेडिंग और रैंकिंग के लिए एक्जीक्यूटर्स जोड़ें। • तेज़ प्रोसेसिंग के लिए GPU इमेजेस का उपयोग करें। • अपना डेटा सेव करने के लिए Qdrant या Weaviate जैसे वेक्टर स्टोर्स से कनेक्ट करें।

स्रोत: https://dev.to/vultr/deploying-jina-serve-open-source-neural-search-and-ai-serving-framework-on-ubuntu-2404-1m8g

वैकल्पिक लर्निंग कम्युनिटी: https://t.me/GyaanSetuAi