𝗗𝗲𝗽𝗹𝗼𝘆 𝗝𝗶𝗻𝗮 𝗦𝗲𝗿𝘃𝗲 𝗼𝗻 𝗨𝗯𝘂𝗻𝘁𝘂 𝟮𝟰.𝟬𝟰

Jina Serve inakusaidia kujenga programu za utafutaji wa neva (neural search) na AI. Inatumia mfumo wa utendaji wa cloud-native kusimamia batching na microservices.

Mwongozo huu unakuonyesha jinsi ya ku-deploy Jina Flow kwenye Ubuntu 24.04 ukitumia Docker Compose na Traefik kwa ajili ya HTTPS salama.

Hatua za ku-deploy:

  1. Sanidi muundo wa mradi wako Tengeneza direktoriti kwa ajili ya executor wako na uingie ndani yake.

  2. Andika moduli yako ya executor Tengeneza skripti ya Python ili kushughulikia usindikaji wa maandishi. Unaweza kufafanua njia za mwisho (endpoints) za index na search hapa.

  3. Fafanua utegemezi Orodhesha jina na docarray kwenye faili la requirements.txt.

  4. Sanidi loader Tumia faili la config.yml kuunganisha moduli yako ya Python na Jina.

  5. Fafanua Flow Tengeneza faili la flow.yml ili kuweka itifaki (protocol) na port yako.

  6. Jenga picha ya Docker Andika Dockerfile ili kujumuisha flow yako na utegemezi kwenye kontena moja.

  7. Sanidi vigezo vya mazingira Tumia faili la .env kusimamia domain na barua pepe yako kwa ajili ya vyeti vya SSL.

  8. Sanidi Docker Compose Tumia Traefik kushughulikia HTTPS ya kiotomatiki. Hii inahakikisha kuwa API yako ni salama.

  9. Anzisha stack Run docker compose up ili kujenga na kuanzisha huduma zako.

Ikianza kufanya kazi, unaweza kujaribu API yako kwa kutumia amri za curl. Unaweza kutuma maandishi kwenye endpoint ya /index na kupokea matokeo yaliyosindikwa.

Hatua zinazofuata kwa huduma yako ya AI: • Ongeza executors kwa ajili ya embedding na ranking. • Tumia picha za GPU kwa usindikaji wa haraka zaidi. • Unganisha na hifadhi za vector kama Qdrant au Weaviate ili kuhifadhi data zako.

Chanzo: https://dev.to/vultr/deploying-jina-serve-open-source-neural-search-and-ai-serving-framework-on-ubuntu-2404-1m8g

Jumuiya ya kujifunza ya hiari: https://t.me/GyaanSetuAi