Більшість стеків залишають межу з моделями відкритою: моделі обрані вручну, бюджети — дашборди, які читають, коли гроші вже витрачено, плюс lock-in на провайдера. AgenticGateway закриває рівно це. Агенти ходять на один OpenAI-сумісний ендпоінт з одним ключем; тенанти, бюджети, ключі провайдерів і маршрутизація виводяться з нього на сервері. Аліаси маршрутів резолвляться за політикою, побудованою з прогону евалів AgenticPerformance: змінюєте eval-run — змінюється маршрутизація, й ідентифікатор прогону записано для аудиту. Витрати — це circuit breaker, а не звіт: стелі на вікно тенанта й на прогін відсікають fail-closed у момент спрацювання, а кожен виклик лягає в леджер і в cost-attributed-спан OpenTelemetry. Транспорт — failover, балансування, ретраї, стримінг, семантичний кеш — робота Bifrost із мікросекундним оверхедом; додати провайдера — це конфіг, а не код.
Дві поверхні, які більшість агентних стеків залишають відкритими, — model & provider і cost & FinOps — реалізовані як слід. І нічого понад.
Агенти ходять на один OpenAI-сумісний ендпоінт з єдиним ключем шлюзу; тенанти, бюджети, ключі провайдерів і маршрутизація виводяться з нього на сервері, а клієнтські ключі зберігаються лише як sha256.
Аліаси маршрутів резолвляться за політикою з прогону евалів AgenticPerformance — ранжування стає ланцюжком failover, ідентифікатор eval-run записується, і на гарячому шляху немає жодної LLM.
Стелі на вікно тенанта й на прогін enforced у коді та відсікають у момент спрацювання — контроль витрат як circuit breaker, а не місячний звіт.
Абстракція провайдерів, failover, балансування, ретраї, стримінг і семантичний кеш — робота Bifrost із мікросекундним оверхедом; додати провайдера — конфігурація, а не код.
Кожен виклик лягає в hash-not-text-леджер і в cost-attributed-спан OTel у конвенціях AgenticPerformance — вартість на результат у тих самих трейсах, що й ваші евали.
Guard AgenticMind працює інлайн, tool-виклики захищеними шляхами перевіряються за policy-pack AgenticAssurance, а семпльований суддя рев'юїть ризиковані маршрути.
Якщо ви не знайшли відповіді на своє запитання, ми пропонуємо безкоштовну консультацію без зобов’язань
Проксі пересилає виклики. AgenticGateway — це площина політик: маршрутизація за виміряними прогонами евалів, стелі витрат fail-closed у коді, guardrails на межі та аудитований evidence-трейл — реалізовані поверхні Model & provider і Cost & FinOps зі Стандарту.
Весь транспорт: абстракція провайдерів, failover, балансування, ретраї, стримінг і семантичний кеш — із мікросекундним оверхедом. AgenticGateway не перевинаходить транспорт: додати провайдера — це конфіг, а не код.
Apache 2.0, на GitHub (Moai-Team-LLC/AgenticGateway). Можна вільно використовувати, self-host'ити та будувати поверх, зокрема комерційно.
Політики маршрутизації будуються з прогонів евалів AgenticPerformance, а кожен виклик іде cost-attributed-спаном OTel у конвенціях APL — рішення про маршрутизацію та їх результати живуть в одному вимірюваному циклі.
Це Bun-нативний TypeScript-сервіс на data-plane Bifrost. Ваші агенти не змінюються — вони далі говорять OpenAI-сумісним API, просто в один ендпоінт з одним ключем.
Більше з нашої agentic-практики — стандарт, за яким ми будуємо, опенсорс-шари, що його реалізують, і команда, яка все це запускає.
Ганяєте флот кількома провайдерами моделей? Розкажіть — покажемо, що вміє один керований ключ.