𝗗𝗲𝗽𝗹𝗼𝘆 𝗝𝗶𝗻𝗮 𝗦𝗲𝗿𝘃𝗲 𝗼𝗻 𝗨𝗯𝘂𝗻𝘁𝘂 𝟮𝟰.𝟬𝟰
Jina Serve hilft Ihnen beim Aufbau von Neural-Search- und KI-Anwendungen. Es nutzt eine Cloud-native Runtime, um Batching und Microservices zu verwalten.
Diese Anleitung zeigt Ihnen, wie Sie einen Jina Flow auf Ubuntu 24.04 unter Verwendung von Docker Compose und Traefik für sicheres HTTPS bereitstellen.
Schritte zur Bereitstellung:
Projektstruktur einrichten Erstellen Sie ein Verzeichnis für Ihren Executor und wechseln Sie hinein.
Executor-Modul schreiben Erstellen Sie ein Python-Skript zur Textverarbeitung. Hier können Sie Index- und Search-Endpoints definieren.
Abhängigkeiten definieren Listen Sie jina und docarray in einer requirements.txt-Datei auf.
Loader konfigurieren Verwenden Sie eine config.yml-Datei, um Ihr Python-Modul mit Jina zu verknüpfen.
Flow definieren Erstellen Sie eine flow.yml-Datei, um Ihr Protokoll und Ihren Port festzulegen.
Docker-Image erstellen Schreiben Sie ein Dockerfile, um Ihren Flow und die Abhängigkeiten in einem einzigen Container zu bündeln.
Umgebungsvariablen einrichten Verwenden Sie eine .env-Datei, um Ihre Domain und E-Mail für SSL-Zertifikate zu verwalten.
Docker Compose konfigurieren Nutzen Sie Traefik für automatisiertes HTTPS. Dies stellt sicher, dass Ihre API sicher ist.
Stack starten Führen Sie docker compose up aus, um Ihre Services zu bauen und zu starten.
Sobald alles läuft, können Sie Ihre API mit curl-Befehlen testen. Sie können Text an den /index-Endpoint senden und verarbeitete Ergebnisse erhalten.
Nächste Schritte für Ihren KI-Service: • Fügen Sie Executor für Embedding und Ranking hinzu. • Verwenden Sie GPU-Images für eine schnellere Verarbeitung. • Verbinden Sie sich mit Vector Stores wie Qdrant oder Weaviate, um Ihre Daten zu speichern.
Optionale Lern-Community: https://t.me/GyaanSetuAi