TLDR; Включение нового состояния модели обучения машины в производственном приложении – это вознаграждение, но часто расстраивающий опыт. Следующий пост обеспечивает советы по производству машины, с примерами, использующими службу обучения Azure Machine.
Если вы новичок в Azure, вы можете получить бесплатную подписку здесь.
Создайте свой бесплатный аккаунт Azure сегодня | Microsoft Azure.
В то время как советы в следующем посте трансцендент Azure служба обучения Azure Machine предоставляет структурированную инструмент для обучения, развертывания, автоматизации и управления рабочими процессами обучения машин при производстве.
1) не изобретают колесо
Прежде чем написать первую строку AI Code, спросите, является ли проблема, которую вы решаете, действительно нуждается в состоянии художественной модели? Многие сценарии уже имеют существующие решения, которые управляются и поддерживаются лучшими облачными поставщиками.
Когнитивные услуги |. Microsoft Azure.
Эти услуги поддерживаются, совместимые в отрасли, постоянно обновляются и уже интегрируются на язык и платформы, используют ваши клиенты. Многие из них могут быть запущены в автономном режиме в докеренной среде, и многие из этих услуг, таких как пользовательское видение, пользовательское речь и понимание языка даже могут быть настроены.
Прежде чем изобретать колесо, чтобы увидеть, если эти услуги соответствуют вашему сценарию, вы можете обнаружить, что к тому времени, когда ваша компания ставит состояние художественной модели в производство, производительность управляемого сервиса будет догнать.
Правило 80:20 для AI
Я нашел там, чтобы быть правилом Парето 80:20, где около 80 процентов инструментов AI, требуемых компанией в данный момент, уже в управляемом обслуживании. Однако в то время как 80% сценариев могут быть покрыты познавательными службами, остальные 20% сценариев, как правило, являются теми, которые являются наиболее разрушительными потенциалом. Не переименовав колесо, вы можете сосредоточить свои производственные усилия на этих критических сценариях.
2) Централизировать ваш конвейер
В исследовательских наборах наборах часто предоставляются. Но в производственном управлении, защищенные и закрепленные данные намного сложнее. Прежде чем поставить следующее состояние художественной модели в производство, важно понимать ваши данные и использовать случай. Диаграмма ниже очевидных соображений при проглатывании, обработки данных для обучения машины производства.
Такие услуги, как Azure Storage , Azure Event Hubs и Azure Data Explorer Включите масштабируемое проглатывание и обработку ваших данных.
Служба обучения Azure Machine напрямую интегрируется с этими услугами через MLOPS SDK Отказ Я не буду глубоко погружаться в эти концепции в этом посте, но оформить больше о том, как централизовать и управлять доступом к данным в документации ниже.
Создание наборов данных для доступа к данным с Azureml-DataSets – Azure Machine Machine Услуги обучения
3) отслеживать работу вашей команды
В настройке исследования его легко привыкнуть работать только на модели. В производственном отслеживании работ, проводимых по распределенным командам, могут быть сложными.
К счастью, рабочая область обучения Azure Machine позволяет команды управлять экспериментами и отслеживать их работу.
Из этого рабочего пространства команды могут определить монитор как классических, так и настраиваемых метрик задач во всех заданных работах на данном состоянии отслеживать верхнюю производительность со временем.
Когда один член команды застрял другой, может быстро получить доступ к журналам и помочь вернуть свой член команды на трек.
Для каждого пробега все код и гипер параметры наносятся, чтобы работа была мгновенно восстановлена и вернена.
Наличие инструментов, чтобы масштабировать команду и отслеживать вашу работу, имеет решающее значение для получения современного модели художественной модели в производство как можно быстрее.
4) Разверните прочную базовую линию
Перед развертыванием сложного состояния художественной модели к производству имеет смысл развернуть прочную базовую модель.
Наличие твердой базовой модели обеспечивает значительные преимущества. Сильная базовая линия помогает:
- Лучше понять процесс развертывания для получения модели в производство.
- Оцените влияние данного решения, если вы видите, что существует количественная прибыль от инвестиций на вашу базовую линию, вы можете использовать это, чтобы оправдать наливание больше ресурсов в более сложную модель.
- Обеспечить точку сравнения – например, если базовая линия дает на 87% балла на 87% F1, но ваше состояние реализации искусства возвращает 85%, базовый уровень может помочь вам лучше понять, что в вашей реализации, даже если Метрики кажутся хорошими.
Служба Azure Automal помогает создавать сильные базовые линии для многих задач без необходимости даже написать одну строку кода ML. Automal автоматизирует процесс выбора наилучшего алгоритма для использования для ваших конкретных данных, поэтому вы можете быстро генерировать исход машины. Чтобы начать, проверить документацию Automal ниже, чтобы узнать больше о том, как работает сервис.
Создать автоматические эксперименты ML – служба обучения машины Azure
Также проверьте этот отличный пост на Auto ML из талантливого Франческо Лаззезе, чтобы узнать больше о интерпретации результатов услуги.
Автоматизированное и интерпретируемое машинное обучение
5) Используйте низкий приоритетный вычислений и автоскализацию
Обучение крупным современным моделям арт-моделей может быть вычислительно дорого, однако воспользовавшись преимуществами низкого приоритета Compute может привести к значительной экономии по порядку.
Кроме того, служба обучения Azure Machine поддерживает автоматическое масштабирование, что означает, что если ваша модель в любой точке съедает все ваши выделенные ресурсы вместо того, чтобы сбиться и заставить вас потерять всю вашу работу и потраченные вычислительные ресурсы, он автоматически откаснет вашим потребностям, а затем обратно, когда ресурсы выпущены.
С этой экономией затрат вы можете приучить своих моделей дольше или уменьшить отходы до двух линий кода по сравнению с традиционным развертыванием.
6) Кредитное плечо Распределенное обучение
Есть два традиционных подхода к распределенной тренировке, распределенный дозирование и Распределенный гиперпараметритр оптимизация Отказ Без распределенных тренировок будет трудно масштабировать ваше состояние модели к производительности производства.
Традиционно распределенные тренировки трудно управлять из-за следующих вопросов:
Распределенное обучение трудно управлять без облачного обслуживания
Сервис обучения Azure Machine управляет распределенным дозированием с прямой интеграцией с MPI и HOVOROD.
Кроме того, услуга Azure ML обеспечивает Гиперприз Служба оптимизации гиперпараметра, которая использует состояние художественных методов для настройки гиперпарамера.
Гиперпараметры являются регулируемыми параметрами, выбранными до тренировки, которые управляют моделью обучения. Модель производительности сильно зависит от гиперпараметров, а в состоянии арт-моделей они часто оформлены настраиваются на наборы данных исследований.
Можно трудно найти оптимальные гиперпараметры в новом распределении данных, поскольку пространство поиска параметров велико, существует очень мало оптимальных значений и оценка всего места для параметра – это ресурс и потребляемое время.
Часто в исследовании эти параметры проверяются вручную, по одному, что неэффективно:
Служба Hyperdrive позволяет конфигурации пространства поиска гиперпараметра:
Учитывая метрику, он будет запустить множество поисков распределенного параметра, используя состояние методов выборки искусства и выполнять ранние остановки на параметры, которые не сходятся к оптимальной производительности. Это приводит к гораздо более надежному состоянию моделей обучения машины.
Узнайте больше об обслуживании ниже:
Настройка HyperParameters для вашей модели – Azure Machine Schooning Service
7) При возможности развернуть к краю
Модели могут быть развернуты в качестве масштабируемого облака WebService, размещенные на помещении или развернуты непосредственно к Edge-устройствам.
Хотя определенные модели имеют ограничительные требования к вычислению и памяти, когда это возможно, чрезвычайно экономически эффективно развернуть непосредственно для устройств Edge, используя либо пограничные модули, такие как в примере ниже, либо веб-фреймворки, такие как onnx.js или tensorflow.js Отказ
Развертывание Azure Machine Обучение устройства – Azure IoT Edge
Экономия может быть реинвестирована в итерацию вашей модели.
8) Выполните тестирование различных моделей
Служба Azure ML позволяет легко управлять версией и при необходимости решать модели назад. Хотя может показаться, что модель лучше выполняет в тренировке в производстве, вы можете увидеть другой результат.
Тест A/B позволяет проверить разные версии модели в разных аудиториях. Основываясь на скоростях конвертации, KPI или других метрик, вы можете решить, какой из них работает лучше всего или, если пришло время повторять следующую версию модели.
Azure ML PipleLines может помочь управлять этими тестами и метриками.
Что такое ML трубопроводы – азазубежная машина обучения
9) Монитор Дрифт данных
Дрифт данных происходит, когда данные, обслуживаемые к модели в производстве, отличаются от данных, используемых для обучения модели. Это одна из главных причин, причинах, когда модель точности ухудшается с течением времени, тем самым мониторинг DRIFT DRIFT помогает обнаруживать проблемы с производительностью производительности.
С помощью службы обучения Azure Machine вы можете отслеживать входы в модель, развернутую на AKS и сравнить эти данные на наборе данных для обучения для модели. Через регулярные промежутки времени данные вывода IS Снимок и профилированные Затем вычисляется против базового набора данных для получения анализа дрейфа данных
Обнаружение дрейфа данных (превью) на развертывании AKS – Azure Machine Schooning Service
Надеюсь, вам понравилось эти советы, и что они помогут вам с вашим лазурным путешествием в будущих постах, я буду глубже погружено на разные предметы, изученные здесь и другие темы в AI и машинном обучении.
Если у вас есть какие-либо вопросы, комментарии или темы, которые вы хотели бы, чтобы я обсудил, не стесняйтесь следовать за мной на Twitter Если есть веха, которую вы чувствуете, я пропустил, пожалуйста, дайте мне знать.
Следующие шаги
Если интересует AI/ML, вы проверяете эти удивительные Repos с открытым исходным кодом.
об авторе
Аарон (Ари) Bornstein Это энтузиаст Avid AI со страстью к истории, участвуя с новыми технологиями и вычислительной медициной. Как инженер с открытым исходным кодом в команде Advocacy Compare Seep Developer, он сотрудничает с израильским высокотехнологичным сообществом, чтобы решить реальные мировые проблемы с использованием технологий изменения игр, которые затем задокументированы, открытыми источниками и поделились с остальным миром.
Оригинал: “https://dev.to/azure/9-advanced-tips-for-production-machine-learning-4ccg”