NVIDIA

NVIDIA는 https://integrate.api.nvidia.com/v1에서 Nemotron 및 NeMo 모델을 위한 OpenAI 호환 API를 제공합니다. NVIDIA NGC에서 API 키로 인증합니다.

CLI 설정

키를 한 번 내보낸 후 온보딩을 실행하고 NVIDIA 모델을 설정합니다:

export NVIDIA_API_KEY="nvapi-..."
openclaw onboard --auth-choice skip
openclaw models set nvidia/nvidia/llama-3.1-nemotron-70b-instruct

--token을 전달하면 셸 히스토리와 ps 출력에 남으니, 가능하면 환경 변수를 사용하는 것이 좋습니다.

설정 예시

{
  env: { NVIDIA_API_KEY: "nvapi-..." },
  models: {
    providers: {
      nvidia: {
        baseUrl: "https://integrate.api.nvidia.com/v1",
        api: "openai-completions",
      },
    },
  },
  agents: {
    defaults: {
      model: { primary: "nvidia/nvidia/llama-3.1-nemotron-70b-instruct" },
    },
  },
}

모델 ID

• nvidia/llama-3.1-nemotron-70b-instruct (기본값)
• meta/llama-3.3-70b-instruct
• nvidia/mistral-nemo-minitron-8b-8k-instruct

참고 사항

• OpenAI 호환 /v1 엔드포인트를 사용하며, NVIDIA NGC의 API 키가 필요합니다.
• NVIDIA_API_KEY가 설정되면 프로바이더가 자동 활성화되며, 정적 기본값(131,072 토큰 컨텍스트 윈도우, 4,096 최대 토큰)을 사용합니다.