Hugging Face (suy luận)

OpenClaw khám phá các mô hình bằng:

GET https://router.huggingface.co/v1/modelsAuthorization: Bearer $HUGGINGFACE_HUB_TOKEN   # hoặc $HF_TOKEN

Phản hồi có kiểu OpenAI: { "object": "list", "data": [ { "id": "Qwen/Qwen3-8B", "owned_by": "Qwen", ... }, ... ] }.

Khi đã cấu hình khóa (qua quy trình thiết lập ban đầu, HUGGINGFACE_HUB_TOKEN hoặc HF_TOKEN), danh sách thả xuống Mô hình Hugging Face mặc định trong quá trình thiết lập tương tác sẽ được điền từ điểm cuối này. Khi Gateway khởi động, lệnh gọi tương tự được thực hiện lại để làm mới danh mục. Các mô hình được khám phá sẽ được hợp nhất với danh mục tích hợp ở trên (được dùng cho siêu dữ liệu như cửa sổ ngữ cảnh và chi phí khi ID trùng khớp). Nếu yêu cầu thất bại, không trả về dữ liệu hoặc chưa đặt khóa, OpenClaw chỉ quay về sử dụng danh mục tích hợp.

Tắt tính năng khám phá mà không xóa nhà cung cấp:

openclaw config set plugins.entries.huggingface.config.discovery.enabled false

• Tên từ API: các mô hình được khám phá sử dụng name, title hoặc display_name từ API khi có; nếu không, OpenClaw sẽ tạo tên từ ID mô hình (ví dụ: deepseek-ai/DeepSeek-R1 trở thành "DeepSeek R1").
• Ghi đè tên hiển thị: đặt nhãn tùy chỉnh cho từng mô hình trong cấu hình:

{  agents: {    defaults: {      models: {        "huggingface/deepseek-ai/DeepSeek-R1": { alias: "DeepSeek R1 (fast)" },        "huggingface/deepseek-ai/DeepSeek-R1:cheapest": { alias: "DeepSeek R1 (cheap)" },      },    },  },}

• Hậu tố chính sách: :fastest và :cheapest là quy ước của bộ định tuyến HF, không phải nội dung được OpenClaw ghi lại: hậu tố được gửi nguyên văn như một phần của ID mô hình và bộ định tuyến của HF chọn nhà cung cấp suy luận phù hợp. Thêm từng biến thể thành một mục riêng trong models.providers.huggingface.models (hoặc trong model.primary) nếu bạn muốn mỗi hậu tố có một bí danh riêng.
• Hợp nhất cấu hình: các mục hiện có trong models.providers.huggingface.models (ví dụ: trong models.json) được giữ lại khi hợp nhất cấu hình, vì vậy mọi name, alias hoặc tùy chọn mô hình tùy chỉnh mà bạn đặt tại đó sẽ tồn tại qua các lần khởi động lại.

Nếu Gateway chạy dưới dạng tiến trình nền (launchd/systemd), hãy bảo đảm HUGGINGFACE_HUB_TOKEN hoặc HF_TOKEN khả dụng cho tiến trình đó (ví dụ: trong ~/.openclaw/.env hoặc thông qua env.shellEnv).