Một lớp mô hình duy nhất cho mọi agent và cuộc trò chuyện.
Một danh mục hợp nhất các mô hình cloud, nền tảng và on-device, các router có tên với fallback tự động, và một gateway phía máy chủ giữ key của bạn và đo lường mức sử dụng.
Danh mục mô hình hợp nhất
Mang key cloud của riêng bạn, dùng giá trị mặc định của nền tảng, hoặc đăng ký các mô hình on-device — tất cả trong một danh mục phạm vi org.
Fallback router
Đặt tên một router với danh sách mục tiêu có thứ tự; nếu một mục tiêu bị rate-limit, gặp lỗi hoặc offline, mục tiêu kế tiếp tự động tiếp quản.
Gateway giữ key
Một gateway tương thích OpenAI chạy các lệnh gọi cloud ở phía máy chủ — key của bạn không bao giờ đến được agent hay thiết bị — và đo lường token theo org và mô hình.
Lựa chọn theo agent
Chọn nguồn mô hình cho từng agent khi cài đặt: key của riêng bạn đi thẳng tới nhà cung cấp, hoặc một router có fallback. Cùng một bộ chọn cho agent cloud và agent thiết bị.
Phân giải theo host
Cùng một router được phân giải theo host: một agent cloud đi qua gateway; một thiết bị thử mô hình cục bộ của nó trước, rồi fallback về cloud thông qua gateway — key không bao giờ rời khỏi nền tảng. Trong một tổ chức, một thiết bị thậm chí có thể phục vụ mô hình on-device của nó cho các thiết bị khác.