Ubuntu 24.04-এ Jina Serve ডেপ্লয় করুন

Jina Serve আপনাকে নিউরাল সার্চ এবং AI অ্যাপ্লিকেশন তৈরি করতে সাহায্য করে। এটি ব্যাচিং এবং মাইক্রোসার্ভিস ম্যানেজ করার জন্য একটি ক্লাউড-নেটিভ রানটাইম ব্যবহার করে।

এই গাইডটি আপনাকে দেখাবে কীভাবে Docker Compose এবং নিরাপদ HTTPS-এর জন্য Traefik ব্যবহার করে Ubuntu 24.04-এ একটি Jina Flow ডেপ্লয় করতে হয়।

ডেপ্লয় করার ধাপসমূহ:

  1. আপনার প্রজেক্ট স্ট্রাকচার সেট আপ করুন আপনার এক্সিকিউটরের জন্য একটি ডিরেক্টরি তৈরি করুন এবং সেখানে প্রবেশ করুন।

  2. আপনার এক্সিকিউটর মডিউল লিখুন টেক্সট প্রসেসিং হ্যান্ডেল করার জন্য একটি Python স্ক্রিপ্ট তৈরি করুন। আপনি এখানে index এবং search এন্ডপয়েন্ট সংজ্ঞায়িত করতে পারেন।

  3. ডিপেন্ডেন্সি সংজ্ঞায়িত করুন একটি requirements.txt ফাইলে jina এবং docarray তালিকাভুক্ত করুন।

  4. লোডার কনফিগার করুন আপনার Python মডিউলকে Jina-এর সাথে লিঙ্ক করতে একটি config.yml ফাইল ব্যবহার করুন।

  5. Flow সংজ্ঞায়িত করুন আপনার প্রোটোকল এবং পোর্ট সেট করার জন্য একটি flow.yml ফাইল তৈরি করুন।

  6. Docker ইমেজ তৈরি করুন আপনার flow এবং ডিপেন্ডেন্সিগুলোকে একটি সিঙ্গেল কন্টেইনারে অন্তর্ভুক্ত করতে একটি Dockerfile লিখুন।

  7. এনভায়রনমেন্ট ভেরিয়েবল সেট আপ করুন SSL সার্টিফিকেটের জন্য আপনার ডোমেইন এবং ইমেল ম্যানেজ করতে একটি .env ফাইল ব্যবহার করুন।

  8. Docker Compose কনফিগার করুন অটোমেটিক HTTPS হ্যান্ডেল করতে Traefik ব্যবহার করুন। এটি নিশ্চিত করে যে আপনার API নিরাপদ।

  9. স্ট্যাক শুরু করুন আপনার সার্ভিসগুলো বিল্ড এবং স্টার্ট করতে docker compose up কমান্ডটি চালান।

একবার চালু হয়ে গেলে, আপনি curl কমান্ডের মাধ্যমে আপনার API টেস্ট করতে পারেন। আপনি /index এন্ডপয়েন্টে টেক্সট পাঠাতে পারেন এবং প্রসেস করা রেজাল্ট পেতে পারেন।

আপনার AI সার্ভিসের পরবর্তী ধাপসমূহ: • এমবেডিং এবং র‍্যাঙ্কিংয়ের জন্য এক্সিকিউটর যোগ করুন। • দ্রুত প্রসেসিংয়ের জন্য GPU ইমেজ ব্যবহার করুন। • আপনার ডেটা সেভ করার জন্য Qdrant বা Weaviate-এর মতো ভেক্টর স্টোরগুলোর সাথে কানেক্ট করুন।

Source: https://dev.to/vultr/deploying-jina-serve-open-source-neural-search-and-ai-serving-framework-on-ubuntu-2404-1m8g

Optional learning community: https://t.me/GyaanSetuAi