Hugging Face (inferentie)

OpenClaw detecteert modellen met:

GET https://router.huggingface.co/v1/modelsAuthorization: Bearer $HUGGINGFACE_HUB_TOKEN   # or $HF_TOKEN

Het antwoord heeft de OpenAI-indeling: { "object": "list", "data": [ { "id": "Qwen/Qwen3-8B", "owned_by": "Qwen", ... }, ... ] }.

Met een geconfigureerde sleutel (via onboarding, HUGGINGFACE_HUB_TOKEN of HF_TOKEN) wordt de keuzelijst Default Hugging Face model tijdens de interactieve configuratie gevuld vanuit dit eindpunt. Bij het opstarten van de Gateway wordt dezelfde aanroep herhaald om de catalogus te vernieuwen. Gedetecteerde modellen worden samengevoegd met de ingebouwde catalogus hierboven (die wordt gebruikt voor metagegevens zoals het contextvenster en de kosten wanneer een id overeenkomt). Als de aanvraag mislukt, geen gegevens retourneert of er geen sleutel is ingesteld, gebruikt OpenClaw uitsluitend de ingebouwde catalogus.

Schakel detectie uit zonder de provider te verwijderen:

openclaw config set plugins.entries.huggingface.config.discovery.enabled false

• Naam uit de API: gedetecteerde modellen gebruiken de name, title of display_name van de API wanneer deze aanwezig is; anders leidt OpenClaw een naam af uit het model-id (bijvoorbeeld deepseek-ai/DeepSeek-R1 wordt "DeepSeek R1").
• Weergavenaam overschrijven: stel in de configuratie per model een aangepast label in:

{  agents: {    defaults: {      models: {        "huggingface/deepseek-ai/DeepSeek-R1": { alias: "DeepSeek R1 (fast)" },        "huggingface/deepseek-ai/DeepSeek-R1:cheapest": { alias: "DeepSeek R1 (cheap)" },      },    },  },}

• Beleidsachtervoegsels: :fastest en :cheapest zijn conventies van de HF-router en worden niet door OpenClaw herschreven: het achtervoegsel wordt letterlijk als onderdeel van het model-id verzonden en de router van HF kiest de overeenkomende inferenceprovider. Voeg elke variant als afzonderlijke vermelding toe onder models.providers.huggingface.models (of in model.primary) als je per achtervoegsel een afzonderlijke alias wilt.
• Samenvoegen van configuraties: bestaande vermeldingen in models.providers.huggingface.models (bijvoorbeeld in models.json) blijven behouden wanneer configuraties worden samengevoegd. Daardoor blijven aangepaste waarden voor name, alias of modelopties die je daar instelt behouden na opnieuw opstarten.

Als de Gateway als daemon (launchd/systemd) wordt uitgevoerd, zorg er dan voor dat HUGGINGFACE_HUB_TOKEN of HF_TOKEN beschikbaar is voor dat proces (bijvoorbeeld in ~/.openclaw/.env of via env.shellEnv).