1.
Жизненный цикл модели включает подготовку данных, обучение, проверку качества,
сохранение модели и преобразований признаков, развертывание, мониторинг и
последующее обновление. При промышленном применении необходимо обеспечить
стабильную обработку новых данных, получение прогнозов и передачу результатов
пользователю или другой системе.
2. Пакетное
прогнозирование выполняется по расписанию для большого количества записей,
например при ежедневной оценке вероятности оттока клиентов.
Онлайн-прогнозирование выполняется при поступлении отдельного запроса, например
при проверке риска финансовой операции. В онлайн-режиме особенно важны скорость
ответа и доступность сервиса.
3. Для
воспроизводимости необходимо сохранять версии кода, данных и библиотек,
конфигурацию обучения, параметры модели, метрики качества, перечень входных
признаков и схему их обработки. Версионирование позволяет определить условия
создания модели, сравнивать выпуски, повторять эксперименты и при необходимости
возвращаться к предыдущей версии.
4. Дрейф
данных означает изменение распределения входных признаков по сравнению с
обучающими данными. Дрейф концепции означает изменение зависимости между
признаками и целевой переменной. Например, изменение возрастного состава
клиентов относится к дрейфу данных, а появление новых схем мошенничества может
вызвать дрейф концепции. Такие изменения требуют проверки, поскольку могут
ухудшать качество прогнозирования.
5. После
внедрения контролируют задержку ответа, долю ошибок, доступность сервиса,
загрузку ресурсов и пропускную способность. Также отслеживают распределения
признаков, доли предсказанных классов, уверенность прогнозов и качество модели
при наличии правильных ответов. Повторное обучение рассматривают при ухудшении
качества, существенном изменении данных, появлении новых размеченных примеров
или изменении требований бизнеса. Новую модель проверяют до замены действующей.