모델 및 라우팅
모든 agent와 대화를 위한 하나의 모델 레이어.
클라우드, 플랫폼, on-device 모델의 통합 카탈로그, 자동 fallback이 포함된 이름 지정 router, 그리고 키를 보관하고 사용량을 계측하는 서버 사이드 gateway.
통합 모델 카탈로그
자신의 클라우드 키를 가져오거나, 플랫폼 기본값을 사용하거나, on-device 모델을 등록하세요 — 모두 하나의 org 범위 카탈로그에서.
Fallback router
순서가 지정된 대상 목록으로 router에 이름을 지정하세요. 하나가 rate-limit되거나 실패하거나 오프라인이 되면 다음 대상이 자동으로 이어받습니다.
키를 보관하는 gateway
OpenAI 호환 gateway가 클라우드 호출을 서버 사이드에서 실행합니다 — 키가 agent나 디바이스에 도달하지 않습니다 — 그리고 token을 org와 모델별로 계측합니다.
agent별 선택
설치 시 agent별로 모델 소스를 선택하세요. 제공자로 직접 연결되는 자신의 키, 또는 fallback이 있는 router. 클라우드 agent와 디바이스 agent에 동일한 선택기.
host 인식 해석
동일한 router가 host에 따라 해석됩니다. 클라우드 agent는 gateway를 거치고, 디바이스는 먼저 로컬 모델을 시도한 다음 gateway를 통해 클라우드로 fallback합니다 — 키는 플랫폼을 떠나지 않습니다. 조직 내에서 한 디바이스는 자신의 on-device 모델을 다른 디바이스에 제공할 수도 있습니다.