Перейти к содержимому
⁨NDDev AI⁩, главная страница
Сообщество
Язык: Русский
Отображение
Тема
Анимация

Обучение нейросети на своих данных

NDDev обучает нейросети на данных компании: дообучаем языковые модели методами LoRA и QLoRA под ваш стиль, формат и терминологию, обучаем модели классификации и компьютерного зрения на ваших примерах. Вы получаете веса модели, код обучения и отчёт с метриками на отложенной выборке. Подходит компаниям с накопленными размеченными данными. NDDev работает с 2019 года.

Кому подходит?

Компаниям, у которых накоплены примеры: обращения с верными категориями, документы с заполненными полями, фотографии с отмеченными дефектами, переписка в фирменном стиле.

  • LoRA и QLoRA для языковых моделей
  • Модели на PyTorch и Transformers
  • Эксперименты в MLflow
  • Веса и код обучения у вас

Когда модели стоит учиться на ваших данных

Сначала проверяем, нужно ли обучение. Если задача в ответах по документам, обычно хватает поиска по базе знаний. Дообучение даёт выигрыш, когда модели нужен строгий формат, узкая терминология или стиль компании, а промпты дают нестабильный результат. Для классификации, извлечения полей и задач на изображениях своя небольшая модель часто работает быстрее и дешевле большой языковой.

  • аудит данных и план разметки
  • разметка и чистка примеров
  • базовая модель для сравнения
  • дообучение LoRA или QLoRA, обучение своей модели
  • журнал экспериментов в MLflow
  • отчёт с метриками на отложенной выборке
  • веса модели, код обучения и инструкция по запуску

Большая часть работы идёт на данные. Чистим и размечаем примеры, делим их на обучающую, проверочную и отложенную выборки и считаем результат простой базовой модели. Языковые модели дообучаем методами LoRA и QLoRA на согласованном оборудовании, остальные обучаем на PyTorch, Transformers или YOLO. Каждый запуск с параметрами и метриками записываем в MLflow.

Если заранее неизвестно, достижимо ли нужное качество, начинаем с исследовательского этапа: пробуем методы от простого к сложному и сразу показываем промежуточные результаты. Итогом становится рабочая модель или обоснованный вывод, что на этих данных цель недостижима.

Этапы обучения модели

  1. Задача и метрика

    Договариваемся, что делает модель и по какой метрике мы поймём, что она справляется.

  2. Данные

    Проверяем объём и качество примеров, при необходимости размечаем и дополняем их.

  3. Базовый результат

    Обучаем простую модель или пробуем промпты, чтобы было с чем сравнивать.

  4. Эксперименты

    Подбираем архитектуру и параметры, каждый запуск записываем в MLflow.

  5. Проверка и передача

    Измеряем модель на отложенной выборке, разворачиваем у вас и передаём веса и код.

Вопросы об обучении на своих данных

Сколько данных нужно?

Это видно после аудита данных. Смотрим, сколько у вас примеров, насколько они однородны и размечены ли они, и прямо говорим, хватит ли их или сначала нужна разметка.

Можно обучать модель на наших серверах?

Да. Обучение запускаем на вашем оборудовании или в согласованном облаке, данные и полученные веса остаются там.

Гарантируете ли вы точность модели?

Мы отвечаем за согласованный процесс, эксперименты, отчёт и документацию. Целевую метрику фиксируем до начала и измеряем на отложенной выборке, которую модель при обучении не видела. Если цель на этих данных недостижима, вы узнаёте об этом на исследовательском этапе.

Кому принадлежит обученная модель?

Права на веса и код обучения передаём по договорённости, условия фиксируем в договоре.

Сколько стоит обучение?

Цена «от» в блоке стоимости относится к нашей работе. На итог влияют объём данных и разметки, размер модели и число экспериментов. Вычислительные мощности и внешняя разметка оплачиваются отдельно по факту.

от 8 900 $

Бесплатная гарантия
80 дней

Цены указаны «от» и носят информационный характер; они не являются публичной офертой. Итог фиксируем в ТЗ.

Языковые модели и знания компании

Опишите задачу и данные, которые у вас есть

Расскажите, что должна делать модель и сколько примеров накоплено. Мы оценим, хватит ли данных, и предложим план.

Ответим в течение 24 часов

Ассистент

Загружаем ассистента…