Khắc phục lỗi Base URL

Việc chuyển đổi mô hình lẽ ra phải đơn giản. Bạn chỉ cần thay đổi endpoint và tiếp tục sử dụng cùng một SDK. Tuy nhiên, nó thường thất bại với các lỗi như 401, 404 hoặc 429.

Trước khi đổ lỗi cho SDK, hãy thực hiện 7 bước kiểm tra sau.

  1. Kiểm tra tiền tố /v1 Hầu hết các gateway đều cần hậu tố /v1 trong base URL. Nếu bạn chỉ sử dụng tên miền, SDK có thể gọi sai đường dẫn. Hãy luôn sao chép định dạng chính xác từ tài liệu của nhà cung cấp.

  2. Xác minh các API key của bạn Việc dùng lẫn lộn các key là nguyên nhân gây ra hầu hết các lỗi. Hãy lưu ý những điều sau:

  • Sử dụng key của OpenAI với một URL relay.
  • Sử dụng key của relay với một URL của OpenAI.
  • Sử dụng key từ các dự án đã bị vô hiệu hóa.
  • Chèn thêm khoảng trắng vào key.

Nếu bạn thấy lỗi 401, chỉ in ra vài ký tự đầu và cuối của key để so sánh với dashboard. Tuyệt đối không log toàn bộ key.

  1. Sử dụng chính xác tên mô hình Đừng đoán tên mô hình. Tên trên gateway thay đổi tùy thuộc vào tính khả dụng. Hãy sao chép chính xác model ID từ danh sách của nhà cung cấp. Tên không chính xác sẽ dẫn đến lỗi 404 hoặc model_not_found.

  2. Chạy một yêu cầu kiểm tra nhỏ Hãy kiểm tra kết nối bằng một yêu cầu nhỏ duy nhất trước khi gỡ lỗi (debug) toàn bộ ứng dụng của bạn. Nếu một lệnh "ping" đơn giản hoạt động, thì URL, key và mô hình của bạn đã chính xác. Vấn đề nằm ở logic ứng dụng, chẳng hạn như streaming hoặc tool calling.

  3. Hiểu các mã lỗi

  • 401 có nghĩa là key hoặc trạng thái tài khoản của bạn không đúng.
  • 429 có nghĩa là bạn đã chạm giới hạn tốc độ (rate limit) hoặc không còn số dư. Nếu thấy lỗi 429, hãy kiểm tra trang thanh toán (billing page). Tránh các vòng lặp thử lại (retry loops) quá dày đặc, vì chúng sẽ khiến giới hạn trở nên tồi tệ hơn.

  1. Kiểm tra trang trạng thái Nếu mã của bạn hoạt động bình thường vào hôm qua nhưng lại lỗi vào hôm nay, đừng viết lại phần tích hợp. Hãy kiểm tra trang trạng thái của nhà cung cấp. Các sự cố từ phía thượng nguồn (upstream incidents) rất phổ biến đối với các dịch vụ relay.

  2. Sử dụng lệnh curl Hãy lưu một lệnh curl tối giản trong tài liệu dự án của bạn. Chạy nó khi ứng dụng gặp lỗi.

  • Nếu curl thất bại: Hãy kiểm tra tài khoản, gateway hoặc mạng của bạn.
  • Nếu curl hoạt động: Hãy kiểm tra mã nguồn ứng dụng của bạn.

Các bước cơ bản và rõ ràng sẽ giúp việc chuyển đổi mô hình trở nên dễ dàng.

Nguồn: https://dev.to/alice_kelly_68226d164218e/openai-compatible-base-url-troubleshooting-7-checks-before-you-blame-the-sdk-53ge

Cộng đồng học tập tùy chọn: https://t.me/GyaanSetuAi