Ubuntu 24.04 वर Jina Serve Deploy करा

Jina Serve तुम्हाला न्यूरल सर्च (neural search) आणि AI ॲप्लिकेशन्स तयार करण्यास मदत करते. बॅचिंग (batching) आणि मायक्रोसर्व्हिसेस (microservices) व्यवस्थापित करण्यासाठी ते क्लाउड-नेटिव्ह रनटाइमचा (cloud-native runtime) वापर करते.

हा मार्गदर्शक तुम्हाला Docker Compose आणि सुरक्षित HTTPS साठी Traefik वापरून Ubuntu 24.04 वर Jina Flow कसा तैनात (deploy) करायचा हे दर्शवतो.

तैनात करण्यासाठीच्या पायऱ्या:

  1. तुमच्या प्रोजेक्टची रचना (structure) सेट करा तुमच्या executor साठी एक डिरेक्टरी तयार करा आणि त्यामध्ये प्रवेश करा.

  2. तुमचा executor module लिहा टेक्स्ट प्रोसेसिंग हाताळण्यासाठी एक Python स्क्रिप्ट तयार करा. तुम्ही येथे index आणि search endpoints परिभाषित करू शकता.

  3. डिपेंडेंसीज (dependencies) परिभाषित करा requirements.txt फाईलमध्ये jina आणि docarray ची यादी करा.

  4. loader कॉन्फिगर करा तुमच्या Python module ला Jina शी जोडण्यासाठी config.yml फाईल वापरा.

  5. Flow परिभाषित करा तुमचा प्रोटोकॉल (protocol) आणि पोर्ट (port) सेट करण्यासाठी flow.yml फाईल तयार करा.

  6. Docker इमेज तयार करा तुमचा flow आणि dependencies एका सिंगल कंटेनरमध्ये समाविष्ट करण्यासाठी Dockerfile लिहा.

  7. एन्व्हायरमेंट व्हेरिएबल्स (environment variables) सेट करा SSL प्रमाणपत्रांसाठी (certificates) तुमचा डोमेन आणि ईमेल व्यवस्थापित करण्यासाठी .env फाईल वापरा.

  8. Docker Compose कॉन्फिगर करा ऑटोमॅटिक HTTPS हाताळण्यासाठी Traefik वापरा. यामुळे तुमचे API सुरक्षित राहते.

  9. स्टॅक (stack) सुरू करा तुमच्या सर्व्हिसेस बिल्ड करण्यासाठी आणि सुरू करण्यासाठी docker compose up चालवा.

एकदा सुरू झाल्यावर, तुम्ही curl कमांड्स वापरून तुमचे API टेस्ट करू शकता. तुम्ही /index endpoint वर टेक्स्ट पाठवू शकता आणि त्यावर प्रक्रिया केलेले रिझल्ट्स मिळवू शकता.

तुमच्या AI सर्व्हिससाठी पुढील पावले: • embedding आणि ranking साठी executors जोडा. • जलद प्रक्रियेसाठी GPU images वापरा. • तुमचा डेटा सेव्ह करण्यासाठी Qdrant किंवा Weaviate सारख्या vector stores शी कनेक्ट करा.

स्रोत: https://dev.to/vultr/deploying-jina-serve-open-source-neural-search-and-ai-serving-framework-on-ubuntu-2404-1m8g

ऐच्छिक लर्निंग कम्युनिटी: https://t.me/GyaanSetuAi