Разработчик два года развивал личный проект: из простого Telegram-бота выросла AI-платформа с веб-приложением, биллингом, голосовым агентом и RAG, развёрнутая в 66 контейнерах на двух домашних нодах с GPU.
Мнение эксперта
- Спрос на локальные модели и GPU-ноды растёт: заказчику можно продавать AI-контур без внешних API и зарубежных облаков, что снимает риски отзыва доступа.
- Такая архитектура — готовый референс для пилота, но 66 контейнеров требуют CI, мониторинга и регламента обновлений, то есть платного сопровождения и поддержки.
- Риски ИБ целиком ложатся на эксплуатанта: RAG по документам и селф-хост моделей означают ответственность за утечки данных и своевременность патчей.
