현지 모델

로컬은 가능하지만 OpenClaw는 대규모 컨텍스트와 즉각적인 주입에 대한 강력한 방어를 기대합니다. 작은 카드는 컨텍스트와 누출 안전성을 줄입니다. 높은 목표: ≥2개의 Mac Studio 또는 동급 GPU 장비(~$30,000+). 단일 24GB GPU는 대기 시간이 길고 가벼운 프롬프트에서만 작동합니다. 실행할 수 있는 가장 큰/전체 크기 모델 변형을 사용하세요. 공격적으로 양자화되거나 "작은" 체크포인트는 프롬프트 주입 위험을 높입니다(보안 참조).

권장: LM Studio + MiniMax M2.1(Responses API, 전체 크기)

현재 최고의 로컬 스택. LM Studio에서 MiniMax M2.1을 로드하고, 로컬 서버를 활성화하고(기본값 http://127.0.0.1:1234), Responses API를 사용하여 추론을 최종 텍스트와 별도로 유지합니다.

{
  agents: {
    defaults: {
      model: { primary: "lmstudio/minimax-m2.1-gs32" },
      models: {
        "anthropic/claude-opus-4-6": { alias: "Opus" },
        "lmstudio/minimax-m2.1-gs32": { alias: "Minimax" },
      },
    },
  },
  models: {
    mode: "merge",
    providers: {
      lmstudio: {
        baseUrl: "http://127.0.0.1:1234/v1",
        apiKey: "lmstudio",
        api: "openai-responses",
        models: [
          {
            id: "minimax-m2.1-gs32",
            name: "MiniMax M2.1 GS32",
            reasoning: false,
            input: ["text"],
            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
            contextWindow: 196608,
            maxTokens: 8192,
          },
        ],
      },
    },
  },
}

설정 체크리스트

• LM Studio 설치: https://lmstudio.ai
• LM Studio에서 사용 가능한 가장 큰 MiniMax M2.1 빌드를 다운로드하고("작은"/과도하게 양자화된 변형은 피함) 서버를 시작한 후 http://127.0.0.1:1234/v1/models에 나열되는지 확인하세요.
• 모델을 로드된 상태로 유지하세요. 콜드 로드는 시작 대기 시간을 추가합니다.
• LM Studio 빌드가 다른 경우 contextWindow/maxTokens를 조정하세요.
• WhatsApp의 경우 Responses API를 사용하여 최종 텍스트만 전송됩니다.

로컬로 실행하는 경우에도 호스팅 모델 구성을 유지합니다. models.mode: "merge"을 사용하면 대체 기능을 계속 사용할 수 있습니다.

하이브리드 구성: 호스팅된 기본, 로컬 대체

{
  agents: {
    defaults: {
      model: {
        primary: "anthropic/claude-sonnet-4-5",
        fallbacks: ["lmstudio/minimax-m2.1-gs32", "anthropic/claude-opus-4-6"],
      },
      models: {
        "anthropic/claude-sonnet-4-5": { alias: "Sonnet" },
        "lmstudio/minimax-m2.1-gs32": { alias: "MiniMax Local" },
        "anthropic/claude-opus-4-6": { alias: "Opus" },
      },
    },
  },
  models: {
    mode: "merge",
    providers: {
      lmstudio: {
        baseUrl: "http://127.0.0.1:1234/v1",
        apiKey: "lmstudio",
        api: "openai-responses",
        models: [
          {
            id: "minimax-m2.1-gs32",
            name: "MiniMax M2.1 GS32",
            reasoning: false,
            input: ["text"],
            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
            contextWindow: 196608,
            maxTokens: 8192,
          },
        ],
      },
    },
  },
}

호스팅된 안전망을 통한 로컬 우선

기본 순서와 대체 순서를 바꿉니다. 동일한 제공자 차단 및 models.mode: "merge"을 유지하여 로컬 박스가 다운되었을 때 Sonnet 또는 Opus로 대체할 수 있습니다.

지역 호스팅/데이터 라우팅

• 호스팅된 MiniMax/Kimi/GLM 변형은 지역 고정 엔드포인트(예: 미국 호스팅)가 있는 OpenRouter에도 존재합니다. Anthropic/OpenAI 폴백을 위해 models.mode: "merge"를 계속 사용하면서 선택한 관할권의 트래픽을 유지하려면 지역 변형을 선택하세요.
• 로컬 전용은 여전히 ​​가장 강력한 개인 정보 보호 경로입니다. 호스팅된 지역 라우팅은 공급자 기능이 필요하지만 데이터 흐름을 제어하려는 경우 중간 지점입니다.

기타 OpenAI 호환 로컬 프록시

vLLM, LiteLLM, OAI 프록시 또는 사용자 지정 게이트웨이는 OpenAI 스타일 /v1 엔드포인트를 노출하는 경우 작동합니다. 위의 공급자 블록을 엔드포인트 및 모델 ID로 바꿉니다.

{
  models: {
    mode: "merge",
    providers: {
      local: {
        baseUrl: "http://127.0.0.1:8000/v1",
        apiKey: "sk-local",
        api: "openai-responses",
        models: [
          {
            id: "my-local-model",
            name: "Local Model",
            reasoning: false,
            input: ["text"],
            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
            contextWindow: 120000,
            maxTokens: 8192,
          },
        ],
      },
    },
  },
}

models.mode: "merge"을 유지하여 호스팅된 모델을 대체 모델로 계속 사용할 수 있도록 하세요.

문제 해결

• 게이트웨이가 프록시에 도달할 수 있습니까? curl http://127.0.0.1:1234/v1/models.
• LM Studio 모델이 언로드되었나요? 새로고침; 콜드 스타트는 일반적인 "정지" 원인입니다.
• 컨텍스트 오류? contextWindow을 낮추거나 서버 한도를 높이세요.
• 안전: 로컬 모델은 공급자 측 필터를 건너뜁니다. 신속한 주입 폭발 반경을 제한하려면 약제를 좁게 하고 압축을 유지하십시오.