ML-платформа для команд

Один эксперимент или постоянный процесс

Если задача разовая — дообучить одну модель под конкретный датасет или прогнать серию экспериментов в течение недели — обычно достаточно арендовать GPU-сервер напрямую и работать на нём. Отдельная инфраструктура вокруг вычислений оправдана, когда процесс обучения и экспериментов идёт постоянно: несколько людей в команде запускают эксперименты параллельно, а результаты и датасеты нужно хранить и сопоставлять между собой.

ML-платформа в этом смысле — не отдельный продукт с фиксированной ценой, а набор инфраструктурных компонентов (вычисления, хранилище, база метаданных), собранных под конкретную команду и её процесс работы с моделями.

Хранение датасетов и артефактов отдельно от вычислений

Держать датасеты и веса моделей на локальном диске GPU-сервера неудобно и рискованно: сервер можно пересоздать под другую задачу, а данные должны остаться доступны. Вынос хранилища на S3 решает эту проблему — сервер становится взаимозаменяемым вычислительным ресурсом, а данные живут отдельно и переживают пересоздание сервера.

Зачем база данных для экспериментов

По мере роста числа экспериментов важно сопоставлять, на каких данных и с какими параметрами обучалась каждая версия модели и какие метрики она показала — держать это в голове или в файлах перестаёт работать уже на третьем-четвёртом эксперименте. Managed база данных под метаданные экспериментов снимает эту проблему, не требуя администрирования отдельного сервера БД.