Model Gateway
Маршрутизация запросов, единый API, квоты, fallback, версии моделей и журнал использования.
FOTON AI Fabric
Управляемый платформенный слой корпоративного AI
Единая точка доступа к моделям, знаниям, агентам, политикам безопасности и учёту использования.
Задача платформы
Почему одной модели недостаточно
В крупной компании быстро появляются десятки AI-сценариев, внешние API, локальные модели, базы знаний и агенты. Без общего слоя возникают дублирование, неконтролируемые расходы, разрозненные права и слабая наблюдаемость.
- Единый API и маршрутизация
- Ролевой доступ
- Контроль стоимости
- Тестовые наборы качества
- Журналирование
- Независимость приложений от модели
Архитектура
Модули платформы
Corporate Knowledge
RAG, базы знаний, наследование прав, поиск по документам, цитаты и версии источников.
Agent Studio
Сценарии, инструменты, human-in-the-loop, разрешённые действия, журнал и контроль ошибок.
Evaluation & Observability
Тестовые наборы, качество, latency, стоимость, трассировка, регрессии и feedback.
AI Security
Маскирование, политики, секреты, защита от prompt injection и правила хранения.
Billing & FinOps
Учёт токенов и вычислений, квоты, лимиты, бюджеты и chargeback по подразделениям.
Модельная независимость
Модель выбирается под задачу
Что фиксируется
- Фактически использованная модель
- Среда исполнения
- Регион обработки
- Версия
- Стоимость
- Fallback
- Статус health check
Какие варианты подключаются
Российские облачные моделиOpen-source моделиЛокальные endpointsСпециализированные сервисы
Контур
Варианты развёртывания
Российское облако
Быстрый старт и управляемая инфраструктура.
Выделенная среда
Изоляция ресурсов и отдельные ключи.
On-premise
Внутри инфраструктуры заказчика.
Air-gap
Изолированный контур с отдельным циклом обновлений.
Внедрение
Этапы внедрения
Архитектурная сессия
Инвентаризация сценариев, данных и ограничений.
Ролевая модель
Права пользователей, приложений и администраторов.
Подключение провайдеров
Модели, локальные endpoints и fallback.
Пилотный модуль
Один сценарий с тестовым набором качества.
Эксплуатация
Мониторинг, инциденты, обновления и FinOps.
Расширение
Новые подразделения, модели и продукты.
FAQ
Частые вопросы
Можно ли подключать несколько моделей?
Да. Gateway проектируется для нескольких провайдеров и локальных endpoints.
Как управляются права?
Права связываются с корпоративной идентификацией, ролями и политиками конкретного приложения.
Можно ли отключить внешний интернет?
Для air-gap архитектуры предусматривается отдельный порядок доставки моделей и обновлений.
Как учитывается стоимость?
Использование фиксируется по модели, приложению, пользователю или подразделению.