Satu lapisan model untuk setiap agent dan percakapan.
Katalog terpadu model cloud, platform, dan on-device, router bernama dengan fallback otomatis, serta gateway sisi server yang menyimpan key kamu dan mengukur penggunaan.
Katalog model terpadu
Bawa key cloud-mu sendiri, gunakan default platform, atau daftarkan model on-device — semuanya dalam satu katalog bercakupan org.
Fallback router
Beri nama router dengan daftar target yang berurutan; jika satu kena rate-limit, gagal, atau offline, yang berikutnya mengambil alih secara otomatis.
Gateway dengan penyimpanan key
Gateway yang OpenAI-compatible menjalankan panggilan cloud di sisi server — key-mu tidak pernah sampai ke agent atau perangkat — dan mengukur token per org dan model.
Pilihan per agent
Pilih sumber model per agent saat install: key-mu sendiri langsung ke provider, atau router dengan fallback. Selektor yang sama untuk agent cloud dan perangkat.
Resolusi yang sadar host
Router yang sama diselesaikan berdasarkan host: agent cloud melewati gateway; perangkat mencoba model lokalnya dulu, lalu fallback ke cloud melalui gateway — key tidak pernah meninggalkan platform. Dalam sebuah organisasi, satu perangkat bahkan bisa melayani model on-device-nya ke perangkat lain.