NVIDIA
NVIDIA 在 https://integrate.api.nvidia.com/v1 提供 OpenAI 相容的 API,支援 Nemotron 和 NeMo 模型。請使用從 NVIDIA NGC 取得的 API 金鑰進行驗證。
CLI 設定
匯出金鑰後,執行新手引導並設定 NVIDIA 模型:
export NVIDIA_API_KEY="nvapi-..."
openclaw onboard --auth-choice skip
openclaw models set nvidia/nvidia/llama-3.1-nemotron-70b-instruct
如果你仍使用 --token 參數,請注意它會留在 shell 歷史紀錄和 ps 輸出中;建議盡量使用環境變數。
設定範例
{
env: { NVIDIA_API_KEY: "nvapi-..." },
models: {
providers: {
nvidia: {
baseUrl: "https://integrate.api.nvidia.com/v1",
api: "openai-completions",
},
},
},
agents: {
defaults: {
model: { primary: "nvidia/nvidia/llama-3.1-nemotron-70b-instruct" },
},
},
}
模型 ID
nvidia/llama-3.1-nemotron-70b-instruct(預設)meta/llama-3.3-70b-instructnvidia/mistral-nemo-minitron-8b-8k-instruct
注意事項
- OpenAI 相容的
/v1端點;使用來自 NVIDIA NGC 的 API 金鑰。 - 設定
NVIDIA_API_KEY後供應商會自動啟用;使用靜態預設值(131,072 token 上下文視窗、4,096 最大 token 數)。