В последнее время бизнес активно смотрит в сторону Agentic AI — систем, где нейросети не просто отвечают на промпты в чате, а действуют как автономные цифровые сотрудники.

Когда речь заходит о крупном Enterprise, комплаенсе и работе с чувствительными данными (например, юридическими или финансовыми документами), облачные API от OpenAI или Anthropic сразу становятся стоп-фактором. Безопасность требует полной изоляции.

В этой статье я технически разберу, как мы спроектировали и реализовали On-Premise платформу мультиагентного ИИ «Архангел», способную работать без доступа к внешнему интернету.

1. Поставка и инфраструктурный слой: полный On-Premise в Kubernetes

Для крупных заказчиков критически важно, чтобы софт разворачивался в их собственном закрытом периметре (On-Premise) и управлялся стандартными для их Ops-команд инструментами. Мы отказались от сложных проприетарных установщиков в пользу контейнеризации.

Мы поставляем платформу «Архангел» в виде изолированных Helm-чартов для Kubernetes-кластера заказчика. Это даёт предсказуемое разворачивание и лёгкое масштабирование под нагрузкой. Изоляцию при этом обеспечивает не сама упаковка, а сетевые политики и отсутствие маршрута наружу — об этом ниже.

Как это устроено на уровне инфраструктуры:

- Air-gapped окружение. Все базовые Docker-образы платформы и веса локальных LLM (например, семейств Llama или Mistral, адаптированных под наши задачи) зеркалируются во внутренний приватный реестр (Private Registry) заказчика — Harbor или Nexus.

- Стейт и хранилища. Внутри Helm-чартов описаны StatefulSet'ы для баз данных и брокеров сообщений, которые могут использовать как внутренние K8s-хранилища (через CSI), так и подключаться к уже существующим в контуре заказчика кластерам PostgreSQL или Redis.