Большинство стеков оставляют границу с моделями открытой: модели выбраны вручную, бюджеты — дашборды, которые читают, когда деньги уже потрачены, плюс lock-in на провайдера. AgenticGateway закрывает ровно это. Агенты ходят на один OpenAI-совместимый эндпоинт с одним ключом; тенанты, бюджеты, ключи провайдеров и маршрутизация выводятся из него на сервере. Алиасы маршрутов резолвятся по политике, построенной из прогона эвалов AgenticPerformance: меняете eval-run — меняется маршрутизация, и идентификатор прогона записан для аудита. Затраты — это circuit breaker, а не отчёт: потолки на окно тенанта и на прогон отсекают fail-closed в момент срабатывания, а каждый вызов ложится в леджер и в cost-attributed-спан OpenTelemetry. Транспорт — failover, балансировка, ретраи, стриминг, семантический кэш — работа Bifrost с микросекундным оверхедом; добавить провайдера — это конфиг, а не код.
Две поверхности, которые большинство агентных стеков оставляют открытыми, — model & provider и cost & FinOps — реализованные как следует. И ничего сверх.
Агенты ходят на один OpenAI-совместимый эндпоинт с единым ключом шлюза; тенанты, бюджеты, ключи провайдеров и маршрутизация выводятся из него на сервере, а клиентские ключи хранятся только как sha256.
Алиасы маршрутов резолвятся по политике из прогона эвалов AgenticPerformance — ранжирование становится цепочкой failover, идентификатор eval-run записывается, и на горячем пути нет никакой LLM.
Потолки на окно тенанта и на прогон enforced в коде и отсекают в момент срабатывания — контроль затрат как circuit breaker, а не месячный отчёт.
Абстракция провайдеров, failover, балансировка, ретраи, стриминг и семантический кэш — работа Bifrost с микросекундным оверхедом; добавить провайдера — конфигурация, а не код.
Каждый вызов ложится в hash-not-text-леджер и в cost-attributed-спан OTel в конвенциях AgenticPerformance — стоимость на результат в тех же трейсах, что и ваши эвалы.
Guard AgenticMind работает инлайн, tool-вызовы по защищённым путям проверяются по policy-pack AgenticAssurance, а сэмплируемый судья ревьюит рискованные маршруты.
Если вы не нашли ответ на свой вопрос, мы предлагаем бесплатную консультацию без обязательств
Прокси пересылает вызовы. AgenticGateway — это плоскость политик: маршрутизация по измеренным прогонам эвалов, потолки затрат fail-closed в коде, guardrails на границе и аудируемый evidence-трейл — реализованные поверхности Model & provider и Cost & FinOps из Стандарта.
Весь транспорт: абстракция провайдеров, failover, балансировка, ретраи, стриминг и семантический кэш — с микросекундным оверхедом. AgenticGateway не переизобретает транспорт: добавить провайдера — это конфиг, а не код.
Apache 2.0, на GitHub (Moai-Team-LLC/AgenticGateway). Можно свободно использовать, self-host'ить и строить поверх, в том числе коммерчески.
Политики маршрутизации строятся из прогонов эвалов AgenticPerformance, а каждый вызов уходит cost-attributed-спаном OTel в конвенциях APL — решения о маршрутизации и их результаты живут в одном измеряемом цикле.
Это Bun-нативный TypeScript-сервис на data-plane Bifrost. Ваши агенты не меняются — они продолжают говорить на OpenAI-совместимом API, просто в один эндпоинт с одним ключом.
Больше из нашей agentic-практики — стандарт, по которому мы строим, опенсорс-слои, которые его реализуют, и команда, которая всё это запускает.
Гоняете флот по нескольким провайдерам моделей? Расскажите — покажем, что умеет один управляемый ключ.