MLOps: внедрение и сопровождение ML-моделей
NDDev выводит ML-модели в работу и сопровождает их для команд данных и продуктов с AI-функциями: упаковываем модель в сервис, ведём версии в MLflow, проверяем качество перед каждым выпуском, следим за дрейфом данных, задержкой и стоимостью, переобучаем по расписанию и откатываем при сбое. My Attention AI, который мы строим как технический партнёр, уже работает для пользователей.
Кому подходит?
Командам данных, у которых модели готовы, а выпуск, мониторинг и переобучение делаются вручную, и компаниям, где AI-функции уже работают у пользователей и требуют присмотра.
- Реестр моделей в MLflow
- Проверка качества перед выпуском
- Мониторинг дрейфа и стоимости
- Откат на прошлую версию
Что мы настраиваем вокруг модели
Модель упаковываем в сервис на FastAPI или vLLM и запускаем в контейнере с закреплённой версией образа. Каждая версия модели лежит в реестре MLflow вместе со ссылкой на данные, код и метрики обучения. Выпуск идёт через CI: тесты, прогон на контрольном наборе и сравнение с работающей версией.
- упаковка модели в сервис и контейнер
- реестр версий и экспериментов в MLflow
- CI для моделей: тесты и контрольный набор
- мониторинг дрейфа, качества, задержки и стоимости
- трассировка запросов к LLM в Langfuse
- конвейер переобучения на Airflow или Prefect
- регламент выпуска и отката
- правила хранения и удаления данных
После выпуска следим за входными данными, качеством ответов, задержкой и стоимостью, а запросы к языковым моделям трассируем в Langfuse и OpenTelemetry. Когда данные заметно уходят от обучающих или метрика падает, приходит оповещение: модель переобучается конвейером на Airflow или Prefect либо откатывается на прошлую версию.
Отдельно договариваемся о данных: кто хранит запросы и ответы, сколько и как они удаляются после завершения работ. Служебные метрики держим отдельно от содержимого пользователей, так устроена и телеметрия My Attention AI.
Вывод модели в эксплуатацию
Сначала смотрим, как модель живёт сейчас, и закрываем самые рискованные места.
Аудит
Смотрим, где и как обучается и запускается модель, кто её выпускает и что происходит при сбое.
Сервис и реестр
Упаковываем модель, заводим реестр версий и воспроизводимое обучение.
Конвейер выпуска
Настраиваем CI с тестами и проверкой на контрольном наборе.
Мониторинг
Подключаем метрики, оповещения и панели, договариваемся о порогах.
Переобучение и поддержка
Запускаем переобучение по расписанию или по сигналу дрейфа и берём систему на поддержку.
Проекты по этой услуге
My Attention AI: платформа для работы с вниманием и организации дел
My Attention AI это платформа для работы с вниманием и организации деятельности с четырьмя направлениями: Screen, Together, Train и Care. Продукт открыт для пользователей и работает на русском, английском и казахском. Он принадлежит отдельной компании My Attention AI, Inc., в которой CEO NDDev Данил Силантьев работает техническим директором.
Вопросы команд данных о MLOps
У нас уже есть модель. С чего начать?
С аудита: смотрим код, данные, способ запуска и метрики. По итогам вы получаете список рисков и план, что настроить в первую очередь.
Возьмёте модель, которую обучала другая команда?
Да. Нам нужен доступ к коду, данным или их описанию и к среде, где модель работает. Если обучение невоспроизводимо, восстанавливаем его первым делом.
Что такое дрейф данных?
Со временем данные меняются: появляются новые товары, другие клиенты, сезонные колебания. Модель, обученная на старых данных, начинает ошибаться чаще. Мониторинг дрейфа замечает это раньше, чем ошибки увидят пользователи.
Где будет работать модель?
На ваших серверах, в согласованном облаке или на видеокартах, которые вы арендуете. Сервис, мониторинг и переобучение настраиваем там же, документацию передаём вашей команде.
Сколько стоит MLOps?
Цена «от» есть в блоке стоимости. На итог влияют число моделей, текущее состояние их запуска и требования к мониторингу. Серверы и вычисления оплачиваются отдельно. После запуска систему можно оставить на поддержке, обычно это 10 % стоимости проекта в месяц.
от 4 500 $
- Бесплатная гарантия
- 40 дней
Цены указаны «от» и носят информационный характер; они не являются публичной офертой. Итог фиксируем в ТЗ.
Документы, видео и прогнозы
По теме
Расскажите, какие модели у вас уже работают
Опишите модели, данные и то, как их сейчас выпускают. Мы предложим план и назовём цену.
Ответим в течение 24 часов