Zervanor — 模型與路由
模型與路由

為每個 agent 和對話提供統一的模型層。

雲端、平台與 on-device 模型的統一目錄、帶自動 fallback 的具名 router,以及保管你的金鑰並計量用量的伺服器端 gateway。

統一模型目錄

帶上你自己的雲端金鑰、使用平台預設值,或註冊 on-device 模型 — 全部集中在一個 org 範圍的目錄中。

Fallback router

用有序的目標清單為 router 命名;當某個目標被 rate-limit、出錯或離線時,下一個會自動接手。

保管金鑰的 gateway

OpenAI 相容的 gateway 在伺服器端執行雲端呼叫 — 你的金鑰絕不會到達 agent 或裝置 — 並按 org 和模型計量 token。

按 agent 選擇

在安裝時為每個 agent 選擇模型來源:直連供應商的你自己的金鑰,或帶 fallback 的 router。雲端 agent 和裝置 agent 使用同一個選擇器。

感知 host 的解析

同一個 router 會根據 host 解析:雲端 agent 經由 gateway;裝置先嘗試本地模型,再透過 gateway 回退到雲端 — 金鑰絕不會離開平台。在一個組織內,一台裝置甚至可以把自己的 on-device 模型提供給其他裝置。

讓每個模型都經由同一個層路由。