Автоматизация масштабирования для WebSocket-приложения

Вводные данные

• Приложение: Docker-контейнер
• Инфраструктура: Запускается на GPU-pods Runpod
• Тип соединения: WebSocket (WSS)
• Клиенты: Мобильные клиенты подключаются через WebSocket

Основные задачи

1. Балансировка нагрузки и общий URL

• Настроить балансировщик нагрузки для WebSocket, который будет направлять трафик на доступные серверы
• Обеспечить единый URL для подключения всех мобильных клиентов

2. Отказоустойчивость

• Настроить автоматическое масштабирование серверов при увеличении нагрузки или при падении серверов
• Обеспечить автоматическое переключение соединений на работающие серверы в случае сбоя

3. Мониторинг и уведомления

• Настроить мониторинг серверов
• Настроить уведомления (желательно через Uptimerobot) при сбоях

Требования к документации

• Архитектура решения
• Инструкция по развертыванию
• Описание механизмов масштабирования

Параметры конфигурации

• Полная конфигурация самого пода
• Минимальное количество работающих подов
• Максимальное количество работающих подов
• Остальные нужные конфигурации по вашему опыту и усмотрению :)