Масштабирование

Пропускная способность, пределы нагрузки и стратегия роста.

Пропускная способность чата

2× Radeon AI PRO R9700 и 128 GB RAM обеспечивают:

Одновременных в чате	Состояние
150–250	Комфортно
~200	Стабильно и быстро
~300	Заметные задержки
Тысячи	Нужны дополнительные NEURO CORE

Qwen3-32B занимает ~20–22 GB VRAM на экземпляр: на двух картах помещаются 2–3 экземпляра, vLLM выдаёт ~35–45 запросов в секунду.

Ориентиры нагрузки

Ориентиры из ТЗ: до 5 000 одновременных на WEB PORTAL, 1 000–3 000 ИИ-диалогов в день на старте. Чат — узкое место, сайт — нет.

Компонент	Как масштабируется
WEB PORTAL	Горизонтально: больше инстансов Go за балансировщиком
NEURO CORE	Больше GPU-серверов
MongoDB	Выделенный сервер после роста нагрузки
Qdrant	Растёт вместе с базой знаний; шардирование — при необходимости

vLLM и MongoDB на 128 GB RAM и так занимают GPU-машину целиком — K8s добавит сложности без пользы к сентябрю 2026.

K8s имеет смысл позже: когда появятся отдельные серверы под базу и несколько GPU-машин.