Cấu hình LibreChat với Lynkr thông qua Custom Endpoints
Đừng kết nối trực tiếp các nhà cung cấp với ứng dụng chat của bạn. Hãy sử dụng một gateway thay thế.
Nếu bạn đang chạy LibreChat, bạn có thể tối ưu hóa thiết lập của mình bằng cách đặt một gateway ở giữa ứng dụng và các mô hình (models). LibreChat hỗ trợ các endpoint tương thích với OpenAI. Bạn có thể trỏ LibreChat tới Lynkr và để Lynkr xử lý việc định tuyến (routing), lưu bộ nhớ đệm (caching) và chuyển đổi nhà cung cấp (provider switching).
Điều này giúp ứng dụng của bạn hoạt động ổn định.