𝗗𝗲𝗽𝗹𝗼𝘆 𝗝𝗶𝗻𝗮 𝗦𝗲𝗿𝘃𝗲 𝗼𝗻 𝗨𝗯𝘂𝗻𝘁𝘂 𝟮𝟰.𝟬𝟰

ന്യൂറൽ സെർച്ച് (neural search), AI ആപ്ലിക്കേഷനുകൾ എന്നിവ നിർമ്മിക്കാൻ Jina Serve നിങ്ങളെ സഹായിക്കുന്നു. ബാച്ചിംഗും (batching) മൈക്രോസർവീസുകളും (microservices) നിയന്ത്രിക്കുന്നതിന് ഇത് ഒരു ക്ലൗഡ്-നേറ്റീവ് റൺടൈം (cloud-native runtime) ഉപയോഗിക്കുന്നു.

സുരക്ഷിതമായ HTTPS-നായി Docker Compose-ഉം Traefik-ഉം ഉപയോഗിച്ച് Ubuntu 24.04-ൽ എങ്ങനെ ഒരു Jina Flow ഡെപ്ലോയ് ചെയ്യാം എന്ന് ഈ ഗൈഡ് കാണിച്ചുതരുന്നു.

ഡെപ്ലോയ് ചെയ്യാനുള്ള ഘട്ടങ്ങൾ:

  1. നിങ്ങളുടെ പ്രോജക്റ്റ് സ്ട്രക്ചർ സജ്ജമാക്കുക നിങ്ങളുടെ എക്സിക്യൂട്ടറിനായി (executor) ഒരു ഡയറക്ടറി നിർമ്മിക്കുകയും അതിലേക്ക് മാറുകയും ചെയ്യുക.

  2. നിങ്ങളുടെ എക്സിക്യൂട്ടർ മോഡ്യൂൾ എഴുതുക ടെക്സ്റ്റ് പ്രോസസ്സിംഗ് കൈകാര്യം ചെയ്യുന്നതിനായി ഒരു Python സ്ക്രിപ്റ്റ് നിർമ്മിക്കുക. നിങ്ങൾക്ക് ഇവിടെ index, search എൻഡ്‌പോയിന്റുകൾ (endpoints) നിർവചിക്കാം.

  3. ഡിപെൻഡൻസികൾ നിർവചിക്കുക requirements.txt ഫയലിൽ jina, docarray എന്നിവ ലിസ്റ്റ് ചെയ്യുക.

  4. ലോഡർ കോൺഫിഗർ ചെയ്യുക നിങ്ങളുടെ Python മോഡ്യൂളിനെ Jina-യുമായി ബന്ധിപ്പിക്കുന്നതിന് ഒരു config.yml ഫയൽ ഉപയോഗിക്കുക.

  5. Flow നിർവചിക്കുക നിങ്ങളുടെ പ്രോട്ടോക്കോളും (protocol) പോർട്ടും (port) സെറ്റ് ചെയ്യുന്നതിനായി ഒരു flow.yml ഫയൽ നിർമ്മിക്കുക.

  6. Docker ഇമേജ് നിർമ്മിക്കുക നിങ്ങളുടെ flow-ഉം ഡിപെൻഡൻസികളും ഒരു സിംഗിൾ കണ്ടെയ്നറിലാക്കാൻ (container) ഒരു Dockerfile എഴുതുക.

  7. എൻവയോൺമെന്റ് വേരിയബിളുകൾ സജ്ജമാക്കുക SSL സർട്ടിഫിക്കറ്റുകൾക്കായി നിങ്ങളുടെ ഡൊമൈനും ഇമെയിലും നിയന്ത്രിക്കാൻ ഒരു .env ഫയൽ ഉപയോഗിക്കുക.

  8. Docker Compose കോൺഫിഗർ ചെയ്യുക ഓട്ടോമാറ്റിക് HTTPS കൈകാര്യം ചെയ്യാൻ Traefik ഉപയോഗിക്കുക. ഇത് നിങ്ങളുടെ API സുരക്ഷിതമാണെന്ന് ഉറപ്പാക്കുന്നു.

  9. സ്റ്റാക്ക് സ്റ്റാർട്ട് ചെയ്യുക നിങ്ങളുടെ സർവീസുകൾ ബിൽഡ് ചെയ്യാനും സ്റ്റാർട്ട് ചെയ്യാനും docker compose up റൺ ചെയ്യുക.

റൺ ചെയ്തുകഴിഞ്ഞാൽ, നിങ്ങൾക്ക് curl കമാൻഡുകൾ ഉപയോഗിച്ച് നിങ്ങളുടെ API ടെസ്റ്റ് ചെയ്യാം. നിങ്ങൾക്ക് /index എൻഡ്‌പോയിന്റിലേക്ക് ടെക്സ്റ്റ് അയയ്ക്കാനും പ്രോസസ്സ് ചെയ്ത ഫലങ്ങൾ സ്വീകരിക്കാനും കഴിയും.

നിങ്ങളുടെ AI സർവീസിനായുള്ള അടുത്ത ഘട്ടങ്ങൾ: • എംബെഡിംഗിനും (embedding) റാങ്കിംഗിനും (ranking) വേണ്ടി എക്സിക്യൂട്ടറുകൾ ചേർക്കുക. • വേഗത്തിലുള്ള പ്രോസസ്സിംഗിനായി GPU ഇമേജുകൾ ഉപയോഗിക്കുക. • നിങ്ങളുടെ ഡാറ്റ സേവ് ചെയ്യുന്നതിനായി Qdrant അല്ലെങ്കിൽ Weaviate പോലുള്ള വെക്റ്റർ സ്റ്റോറുകളുമായി (vector stores) ബന്ധിപ്പിക്കുക.

Source: https://dev.to/vultr/deploying-jina-serve-open-source-neural-search-and-ai-serving-framework-on-ubuntu-2404-1m8g

Optional learning community: https://t.me/GyaanSetuAi