Deploy Jina Serve บน Ubuntu 24.04
Jina Serve ช่วยให้คุณสร้างแอปพลิเคชัน neural search และ AI โดยใช้ cloud-native runtime ในการจัดการ batching และ microservices
คู่มือนี้จะแสดงวิธีการ deploy Jina Flow บน Ubuntu 24.04 โดยใช้ Docker Compose และ Traefik เพื่อความปลอดภัยผ่าน HTTPS
ขั้นตอนการ deploy:
ตั้งค่าโครงสร้างโปรเจกต์ของคุณ สร้างไดเรกทอรีสำหรับ executor ของคุณและเข้าไปยังไดเรกทอรีนั้น
เขียนโมดูล executor ของคุณ สร้างสคริปต์ Python เพื่อจัดการการประมวลผลข้อความ คุณสามารถกำหนด endpoint สำหรับการทำ index และการค้นหา (search) ได้ที่นี่
กำหนด dependencies ระบุ jina และ docarray ในไฟล์ requirements.txt
กำหนดค่า loader ใช้ไฟล์ config.yml เพื่อเชื่อมโยงโมดูล Python ของคุณเข้ากับ Jina
กำหนด Flow สร้างไฟล์ flow.yml เพื่อตั้งค่า protocol และ port ของคุณ
สร้าง Docker image เขียน Dockerfile เพื่อรวม flow และ dependencies ของคุณเข้าเป็น container เดียวกัน
ตั้งค่า environment variables ใช้ไฟล์ .env เพื่อจัดการโดเมนและอีเมลสำหรับใบรับรอง SSL
กำหนดค่า Docker Compose ใช้ Traefik เพื่อจัดการ HTTPS แบบอัตโนมัติ ซึ่งจะช่วยให้มั่นใจว่า API ของคุณมีความปลอดภัย
เริ่มการทำงานของ stack รัน
docker compose upเพื่อสร้างและเริ่มการทำงานของบริการต่างๆ ของคุณ
เมื่อรันแล้ว คุณสามารถทดสอบ API ของคุณด้วยคำสั่ง curl โดยคุณสามารถส่งข้อความไปยัง endpoint /index และรับผลลัพธ์ที่ผ่านการประมวลผลแล้ว
ขั้นตอนต่อไปสำหรับบริการ AI ของคุณ: • เพิ่ม executor สำหรับการทำ embedding และ ranking • ใช้ GPU images เพื่อการประมวลผลที่รวดเร็วยิ่งขึ้น • เชื่อมต่อกับ vector stores เช่น Qdrant หรือ Weaviate เพื่อบันทึกข้อมูลของคุณ
ชุมชนแห่งการเรียนรู้เพิ่มเติม (ไม่บังคับ): https://t.me/GyaanSetuAi