Hardware
x86, Kunpeng, GPU, NPU, сеть и storage.
Технологический стек
Технологический стек AI-инфраструктуры
Вычисления, model serving, данные, оркестрация и контроль эксплуатации в одной архитектуре.
Архитектура
Слои
Системный слой
Linux, контейнеризация, Kubernetes, драйверы и CANN при использовании Ascend.
Model serving
OpenAI-compatible API, vLLM или совместимый слой, batching и quotas.
Данные
Object storage, PostgreSQL, vector DB, ETL и backup.
Платформа
Model Gateway, Corporate Knowledge, Agent Studio, observability, security и FinOps.
Эксплуатация
Monitoring, logs, traces, alerts, incident management и capacity planning.
Переносимость
Как снижаем vendor lock-in
- Adapter layer
- OpenAI-compatible endpoints
- Переносимость prompts
- Экспорт данных
- Независимые eval-наборы
- Multi-vendor roadmap
- Бенчмарки перед закупкой
- Разделение модели и приложения
Decision gate
Проверка перед закупкой
Benchmark
Latency, throughput, качество и стоимость на целевых задачах.
Compatibility
Модели, библиотеки, драйверы и инструменты эксплуатации.
Supply chain
Поставка, гарантия, запчасти и сервисная схема.
TCO
CAPEX, энергия, охлаждение, лицензии и команда эксплуатации.
Следующий шаг