Ubuntu 24.04 に Jina Serve をデプロイする

Jina Serve は、ニューラル検索や AI アプリケーションの構築を支援します。クラウドネイティブなランタイムを使用して、バッチ処理やマイクロサービスを管理します。

このガイドでは、Docker Compose と、セキュアな HTTPS を実現する Traefik を使用して、Ubuntu 24.04 上に Jina Flow をデプロイする方法を説明します。

デプロイの手順:

  1. プロジェクト構造のセットアップ エグゼキューター用のディレクトリを作成し、そのディレクトリに移動します。

  2. エグゼキューターモジュールの作成 テキスト処理を扱う Python スクリプトを作成します。ここで index および search エンドポイントを定義できます。

  3. 依存関係の定義 requirements.txt ファイルに jina と docarray を記述します。

  4. ローダーの設定 config.yml ファイルを使用して、Python モジュールを Jina にリンクさせます。

  5. Flow の定義 flow.yml ファイルを作成し、プロトコルとポートを設定します。

  6. Docker イメージのビルド Dockerfile を作成し、Flow と依存関係を単一のコンテナにまとめます。

  7. 環境変数の設定 .env ファイルを使用して、SSL 証明書用のドメインとメールアドレスを管理します。

  8. Docker Compose の設定 Traefik を使用して HTTPS を自動化します。これにより、API のセキュリティが確保されます。

  9. スタックの起動 docker compose up を実行して、サービスをビルドし、起動します。

起動後、curl コマンドを使用して API をテストできます。/index エンドポイントにテキストを送信し、処理された結果を受け取ることができます。

AI サービスに向けた次のステップ: • 埋め込み(embedding)とランキング(ranking)用のエグゼキューターを追加する。 • より高速な処理のために GPU イメージを使用する。 • データを保存するために、Qdrant や Weaviate などのベクトルストアに接続する。

ソース: https://dev.to/vultr/deploying-jina-serve-open-source-neural-search-and-ai-serving-framework-on-ubuntu-2404-1m8g

オプションの学習コミュニティ: https://t.me/GyaanSetuAi