Ubuntu 24.04-இல் Jina Serve-ஐ Deploy செய்தல்

Jina Serve உங்களுக்கு நரம்பியல் தேடல் (neural search) மற்றும் AI பயன்பாடுகளை உருவாக்க உதவுகிறது. இது batching மற்றும் microservices-களை நிர்வகிக்க cloud-native runtime-ஐப் பயன்படுத்துகிறது.

பாதுகாப்பான HTTPS-க்காக Docker Compose மற்றும் Traefik ஆகியவற்றைப் பயன்படுத்தி Ubuntu 24.04-இல் Jina Flow-வை எவ்வாறு deploy செய்வது என்பதை இந்த வழிகாட்டி காட்டுகிறது.

Deploy செய்வதற்கான படிகள்:

  1. உங்கள் திட்ட அமைப்பை (project structure) தயார் செய்யவும் உங்கள் executor-க்காக ஒரு கோப்பகத்தை (directory) உருவாக்கி, அதற்குள் செல்லவும்.

  2. உங்கள் executor module-ஐ எழுதவும் உரை செயலாக்கத்தை (text processing) கையாள ஒரு Python script-ஐ உருவாக்கவும். இங்கு நீங்கள் index மற்றும் search endpoints-களை வரையறுக்கலாம்.

  3. சார்புகளை (dependencies) வரையறுக்கவும் requirements.txt கோப்பில் jina மற்றும் docarray ஆகியவற்றைப் பட்டியலிடவும்.

  4. loader-ஐ உள்ளமைக்கவும் (Configure) உங்கள் Python module-ஐ Jina-வுடன் இணைக்க config.yml கோப்பைப் பயன்படுத்தவும்.

  5. Flow-வை வரையறுக்கவும் உங்கள் protocol மற்றும் port-ஐ அமைக்க flow.yml கோப்பை உருவாக்கவும்.

  6. Docker image-ஐ உருவாக்கவும் உங்கள் flow மற்றும் சார்புகளை ஒரே container-க்குள் ஒருங்கிணைக்க ஒரு Dockerfile-ஐ எழுதவும்.

  7. சூழல் மாறிகளை (environment variables) அமைக்கவும் SSL சான்றிதழ்களுக்கான உங்கள் domain மற்றும் email-ஐ நிர்வகிக்க .env கோப்பைப் பயன்படுத்தவும்.

  8. Docker Compose-ஐ உள்ளமைக்கவும் தானியங்கி HTTPS-ஐக் கையாள Traefik-ஐப் பயன்படுத்தவும். இது உங்கள் API பாதுகாப்பானது என்பதை உறுதி செய்கிறது.

  9. stack-ஐத் தொடங்கவும் உங்கள் சேவைகளை உருவாக்கவும் மற்றும் தொடங்கவும் docker compose up என்பதை இயக்கவும்.

இயங்கியதும், curl கட்டளைகளைப் பயன்படுத்தி உங்கள் API-ஐச் சோதிக்கலாம். /index endpoint-க்கு உரையை அனுப்பி, செயலாக்கப்பட்ட முடிவுகளைப் பெறலாம்.

உங்கள் AI சேவையின் அடுத்த கட்டங்கள்: • embedding மற்றும் ranking ஆகியவற்றிற்கான executors-களைச் சேர்க்கவும். • வேகமான செயலாக்கத்திற்கு GPU images-களைப் பயன்படுத்தவும். • உங்கள் தரவைச் சேமிக்க Qdrant அல்லது Weaviate போன்ற vector stores-களுடன் இணைக்கவும்.

மூலம்: https://dev.to/vultr/deploying-jina-serve-open-source-neural-search-and-ai-serving-framework-on-ubuntu-2404-1m8g

விருப்பத்தேர்வு கற்றல் சமூகம்: https://t.me/GyaanSetuAi