Подготовка данных для AI

Контроль качества датасета

Контроль качества датасета — это отчёт, по которому видно, можно ли на корпусе начинать обучение.

Обсудить это направлениеФорма контакта

Кратко опишите цель, ограничения стека и сроки — отвечу в Telegram.

Контроль качества датасета — это отчёт, по которому видно, можно ли на корпусе начинать обучение. Считаю строки, классы, пустые поля, снятые дубли, снятый мусор и долю синтетики. Контроль качества — не ощущение и не одна цифра точности модели, которую ещё не обучали.

Человек читает выборочную проверку: случайные строки плюс те, которые правила нашли странными. Отчёт называет пробелы, а не прячет их: класс из двадцати примеров, источник, который пришёл поздно, поле, пустое в половине строк. Пороги записаны: что должно сойтись, прежде чем я назову датасет готовым. Проваленный порог я не «чиню» удалением тестового среза.

Приёмка — отчёт, выборка с заметками проверяющего и скрипт, который печатает те же счётчики из сданных файлов. Отчёт по уже собранному корпусу часто занимает 1–3 недели. Если цифры говорят, что данные не готовы, дальше очистка или данные для fine-tuning, а не запуск.

Критерии приёмки

Готово, когда

  • Схема и смысл полей зафиксированы письменно
  • Разбиение train / validation / test воспроизводится и проверено на утечку
  • Отчёт качества содержит объёмы, снятые дубли и известные пробелы

Что передаём

  • Файлы датасета в согласованном формате
  • Воспроизводимый скрипт подготовки
  • Отчёт о качестве

Не входит

  • Обучение модели и вывод в прод
  • Юридическое заключение по персональным данным и чужим лицензиям
  • Объём разметки сверх согласованной выборки, если его нет в смете

Финальный акт приёмки фиксируется в брифе или договоре; список выше — ориентир для согласования scope.

Ориентировочный расчёт

Объём
Дополнительно

Частые вопросы

Нажмите на вопрос, чтобы раскрыть ответ.

Вы гарантируете точность модели?

Нет. Гарантирую, что отчёт совпадает с файлами. Точность — у обучения и оценки, они здесь вне границ.

Что, если выборка не прошла?

Датасет не принят. Меняем правило или выборку и заново печатаем счётчики.

Обсудить это направлениеФорма контакта

Кратко опишите цель, ограничения стека и сроки — отвечу в Telegram.

Полное описание услуги