Providers

NVIDIA

NVIDIA, açık modelleri build.nvidia.com adresinden alınan bir API anahtarıyla kimlik doğrulaması yapılan, OpenAI uyumlu https://integrate.api.nvidia.com/v1 API'si üzerinden ücretsiz olarak sunar. OpenClaw, NVIDIA sağlayıcısında varsayılan olarak uzun bağlamlı, etmen tabanlı çalışmalar için NVIDIA'nın toplam 550B / etkin 55B parametreli akıl yürütme modeli Nemotron 3 Ultra'yı kullanır.

Başlarken

  • API anahtarınızı alın

    build.nvidia.com adresinde bir API anahtarı oluşturun.

  • Anahtarı dışa aktarın ve ilk kurulumu çalıştırın

    bash
    export NVIDIA_API_KEY="nvapi-..."openclaw onboard --auth-choice nvidia-api-key
  • Bir NVIDIA modeli ayarlayın

    bash
    openclaw models set nvidia/nvidia/nemotron-3-ultra-550b-a55b
  • Etkileşimsiz kurulum için anahtarı doğrudan iletin:

    bash
    openclaw onboard --auth-choice nvidia-api-key --nvidia-api-key "nvapi-..."

    Yapılandırma örneği

    json5
    {  env: { NVIDIA_API_KEY: "nvapi-..." },  models: {    providers: {      nvidia: {        baseUrl: "https://integrate.api.nvidia.com/v1",        api: "openai-completions",      },    },  },  agents: {    defaults: {      model: { primary: "nvidia/nvidia/nemotron-3-ultra-550b-a55b" },    },  },}

    Öne çıkan katalog

    Bir NVIDIA API anahtarı yapılandırıldığında, kurulum ve model seçimi yolları NVIDIA'nın herkese açık öne çıkan model kataloğunu https://assets.ngc.nvidia.com/products/api-catalog/featured-models.json adresinden alır ve sonucu 24 saat boyunca önbelleğe alır (ilk 32 kayıt, serbest metin giriş satırları olarak içe aktarılır). Böylece build.nvidia.com'daki yeni öne çıkan modeller, bir OpenClaw sürümünü beklemeden kurulum ve model seçimi yüzeylerinde görünür. Canlı akış kullanılabildiğinde, NVIDIA kurulumu sırasında döndürülen ilk model önceden seçilmiş seçenek olur.

    Getirme işlemi, assets.ngc.nvidia.com için sabit bir HTTPS ana makine politikası kullanır. NVIDIA API anahtarı yapılandırılmamışsa ya da akış kullanılamıyor veya hatalı biçimlendirilmişse, OpenClaw aşağıdaki paketlenmiş kataloğa ve paketlenmiş varsayılana geri döner.

    Nemotron 3 Ultra

    Nemotron 3 Ultra, OpenClaw'daki varsayılan NVIDIA modelidir. NVIDIA'nın nvidia/nemotron-3-ultra-550b-a55b için derleme sayfası, bunu 1 milyon token bağlam özelliğine sahip, kullanılabilir ücretsiz bir uç nokta olarak listeler.

    Paketlenmiş Ultra satırı, normal sohbet çıktısının akıl yürütme metnini açığa çıkarmak yerine görünür yanıtta kalması için varsayılan olarak chat_template_kwargs: { enable_thinking: false, force_nonempty_content: true } gönderir.

    En yüksek yetenekli NVIDIA varsayılanı için Ultra'yı kullanın. Daha küçük Nemotron 3 seçeneğini istediğinizde Super'ı seçili tutun veya bağlamı, gecikme süresi ya da davranışı daha uygunsa NVIDIA'nın kataloğunda barındırılan üçüncü taraf modellerden birini seçin.

    Paketlenmiş yedek katalog

    Seçilebilir paketlenmiş satırlar, NVIDIA'nın öne çıkan model kataloğunun anlık görüntüsüdür. Kullanımdan kaldırılmış uyumluluk satırları tam referansla çözümlenebilir olmaya devam eder, ancak model seçicilerde yer almaz.

    Model referansı Ad Bağlam En fazla çıktı
    nvidia/nvidia/nemotron-3-ultra-550b-a55b Nemotron 3 Ultra 550B 1,048,576 8,192
    nvidia/nvidia/nemotron-3-super-120b-a12b Nemotron 3 Super 120B 1,000,000 8,192
    nvidia/z-ai/glm-5.2 GLM 5.2 202,752 8,192
    nvidia/moonshotai/kimi-k2.6 Kimi K2.6 262,144 8,192
    nvidia/minimaxai/minimax-m3 Minimax M3 196,608 8,192
    nvidia/deepseek-ai/deepseek-v4-pro DeepSeek V4 Pro 262,144 16,384
    nvidia/qwen/qwen3.5-397b-a17b Qwen3.5 397B A17B 262,144 16,384

    Tam uyumluluk kataloğu, mevcut yapılandırmalar için yayımlanmış şu referansları da korur: nvidia/moonshotai/kimi-k2.5, nvidia/z-ai/glm-5.1, nvidia/minimaxai/minimax-m2.5, nvidia/z-ai/glm5 ve nvidia/minimaxai/minimax-m2.7. Bunlar tam referansla kullanılabilir olmaya devam eder, ancak ilk kurulumda veya model seçicilerde hiçbir zaman görünmez.

    Gelişmiş yapılandırma

    Otomatik etkinleştirme davranışı

    NVIDIA_API_KEY ortam değişkeni ayarlandığında veya ilk kurulum sırasında bir anahtar saklandığında sağlayıcı otomatik olarak etkinleşir. Anahtar dışında açık bir sağlayıcı yapılandırması gerekmez.

    Katalog ve fiyatlandırma

    OpenClaw, NVIDIA kimlik doğrulaması yapılandırıldığında NVIDIA'nın herkese açık öne çıkan model kataloğunu tercih eder ve bunu 24 saat boyunca önbelleğe alır. Seçilebilir paketlenmiş yedek, NVIDIA'nın öne çıkan model kataloğunun statik bir anlık görüntüsüdür; kullanımdan kaldırılmış tam referanslı uyumluluk satırları model seçicilerden gizlenir. NVIDIA şu anda listelenen modeller için ücretsiz API erişimi sunduğundan kaynakta maliyetler varsayılan olarak 0 değerindedir.

    OpenAI uyumlu uç nokta

    OpenClaw, standart /v1 sohbet tamamlama rotasına karşı openai-completions bağdaştırıcısıyla NVIDIA ile iletişim kurar. OpenAI uyumlu tüm araçlar, NVIDIA temel URL'siyle ek yapılandırma gerektirmeden çalışmalıdır.

    Nemotron 3 Ultra akıl yürütme parametreleri

    NVIDIA'nın Ultra örnek isteği, akıl yürütme çıktısı için chat_template_kwargs.enable_thinking ve reasoning_budget kullanır. OpenClaw'ın paketlenmiş Ultra satırı, normal sohbet kullanımı için şablonla akıl yürütmeyi varsayılan olarak devre dışı bırakır. NVIDIA akıl yürütme çıktısını etkinleştirmeniz veya NVIDIA'ya özgü diğer istek alanlarını zorlamanız gerekiyorsa model başına parametreleri ayarlayın ve sağlayıcıya özgü geçersiz kılmaları NVIDIA modeliyle sınırlı tutun:

    json5
    {  agents: {    defaults: {      models: {        "nvidia/nvidia/nemotron-3-ultra-550b-a55b": {          params: {            chat_template_kwargs: { enable_thinking: true },            extra_body: { reasoning_budget: 16384 },          },        },      },    },  },}

    params.chat_template_kwargs, nesnenin tamamını değiştirmek yerine istekte zaten bulunan chat_template_kwargs ile birleştirilir. params.extra_body, OpenAI uyumlu istek gövdesinin son geçersiz kılmasıdır ve çakışan yük anahtarlarının üzerine yazar; bu nedenle yalnızca NVIDIA'nın seçilen uç nokta için belgelediği alanlarda kullanın.

    Yavaş özel sağlayıcı yanıtları

    NVIDIA tarafından barındırılan bazı özel modeller, ilk yanıt parçasını göndermeden önce varsayılan yaklaşık 120 saniyelik model boşta kalma gözetim süresinden daha uzun zaman alabilir. Özel NVIDIA sağlayıcı kayıtlarında, tüm etmen çalışma zamanı zaman aşımı yerine sağlayıcı zaman aşımını artırın; timeoutSeconds, sağlayıcı HTTP isteklerini kapsar ve o sağlayıcı için boşta kalma/akış gözetim üst sınırını yükseltir:

    json5
    {  models: {    providers: {      "custom-integrate-api-nvidia-com": {        baseUrl: "https://integrate.api.nvidia.com/v1",        api: "openai-completions",        apiKey: "NVIDIA_API_KEY",        timeoutSeconds: 300,      },    },  },  agents: {    defaults: {      models: {        "custom-integrate-api-nvidia-com/meta/llama-3.1-70b-instruct": {          params: { thinking: "off" },        },      },    },  },}

    İlgili içerikler

    Was this useful?
    On this page

    On this page