Модели предсказания данных

Дата публикации: 28 апреля 2026 г․

В эпоху экзафлопных вычислений прогнозирование времени выполнения (Wall-time) заданий на суперкомпьютерах становится критически важным: от него зависят расписание работы машины, тарификация пользователей и энергопотребление центра обработки данных․ Классические аналитические методы уже не справляются с динамикой гибридных CPU+GPU кластеров и сложными паттернами очередей․ Потому всё чаще применяется машинное обучение (ML), которое учится на исторических трассах заданий и способно выдавать точные прогнозы за миллисекунды․

Зачем предсказывать время выполнения

• SLA и QoS: пользователи хотят знать, когда их расчёты закончатся․
• Энергоэффективность: если точный прогноз позволяет включать узлы только на нужное время, экономия может достигать 15–20 % на счетах за электричество․
• Планирование обслуживания: администраторы выбирают окна техобслуживания, где прогнозируемая нагрузка минимальна․

Источники данных для ML-модели

На платформе CyberLeninka показано, что даже простое ранжирование признаков по важности (feature importance) позволяет уменьшить размерность на 40 % без потери точности․

Классификация ML-моделей для прогнозирования

3․1 Линейная регрессия

Классический метод, но его прямая постановка редко применима из-за нелинейных зависимостей между признаками․ Тем не менее, как базовая линия (baseline) он всё ещё используется:

ŷ = β₀ + β₁·nodes + β₂·memGB + β₃·(nodes²)

3․2 Деревья решений и случайный лес

Плюсы:

• Интерпретируемость (можно визуализировать дерево)․
• Работают без масштабирования признаков․

Минусы:

• Переобучение при глубоких деревьях․

3․3 Градиентный бустинг (XGBoost, LightGBM)

Фаворит Kaggle-решений․ Среднее значение MAPE (Mean Absolute Percentage Error) на тестовой выборке кластера «Ломоносов-2» составило 8,7 % против 15,2 % у линейной регрессии․

3․4 Глубокие нейросети

Для крупных центров (>100 000 заданий в сутки) используют:

1. LSTM — учитывают временные закономерности (циклы суточной нагрузки)․
2. TabNet — attention-механизм для табличных данных․
3. Transformer-регрессоры — лучшие результаты при больших вычислительных бюджетах․

Конвейер подготовки данных

Шаг 1․ Сбор

Универсальный формат — Slurm + Prometheus метрики․

Шаг 2․ Очистка

Удаляем аномалии (задания с wall-time < 1 c или > 72 ч)․

Шаг 3․ Инженерия признаков

• log(memGB) — для нормального распределения․
• interaction = nodes × GPU_per_node․
• lag_load — средняя загрузка за предыдущий час․

Шаг 4․ Разбиение

70 % train / 15 % validation / 15 % test․ Для временных рядов используем rolling window․

Метрики качества

Кейс: система Chronos в СКИФ МГУ

• Среднее отклонение прогноза 6,2 %․
• Экономия энергии 1,2 млн кВт·ч (~90 млн руб)․
• Время инференса одного прогноза < 3 мс на CPU-узле․

Подводные камни

1. Дрейф распределения: после обновления BIOS или драйвера GPU характеристики узлов меняются → модель стареет․
2. Мало данных: если кластер новый, история < 1 месяца, смотрите на transfer learning из других центров․
3. Этика: пользователи могут «играть» с параметрами, чтобы встроенная модель ставила им более ранний слот — важен контроль и аудит․

Что дальше?

• Reinforcement Learning: обучать планировщик напрямую, а не только предсказывать время․
• Federated Learning: центры обмениваются моделью, не выгружая сырые данные (важно для коммерческих конфиденциальных расчётов)․
• LLM-ассистенты: генеративные модели помогают пользователю формулировать «паспорт задания» естественным языком, который автоматически превращается в признаки․

Машинное обучение превратило прогнозирование времени выполнения суперкомпьютерных заданий из искусства в точную инженерную дисциплину․ Главное — грамотный сбор данных, правильный выбор метода и постоянный мониторинг дрейфа․ Те центры, которые уже внедрили современные ML-модели, получили ощутимую экономию и рост удовлетворённости пользователей․

Автор: команда исследователей лаборатории «Высокопроизводительные вычисления и ИИ», ИППИ РАН