Upgrade to Pro — share decks privately, control downloads, hide ads and more …

Como implantar modelos de machine learning com ...

Como implantar modelos de machine learning com Azure Machine Learning

Saiba como registrar e implantar modelos de ML no Serviço do Azure Machine Learning. Nesta apresentação você vai aprender a: Implantar um modelo como um serviço de inferência em tempo real. Consumir um serviço de inferência em tempo real. Solucionar problemas de implantação de serviço.

sidney cirqueira

October 17, 2020
Tweet

More Decks by sidney cirqueira

Other Decks in Technology

Transcript

  1. Explore your PASS community Free online webinar events Connect with

    the global data community Local user groups around the world Online special interest user groups Learning on-demand and delivered to you Get involved Own your career with interactive learning built by community and guided by data experts. Get involved. Get ahead. .org
  2. Sidney Cirqueira ✓ Analista de Dados & AI – Lanlink;

    ✓ Microsoft Certified Trainer; ✓ Microsoft Learn Student Ambassador - Beta; ✓ Pós - Graduando em Big Data & Machine Learning - FASAM; ✓ Experiência focada em Engenharia de Dados e IA no MS Azure;
  3. ✓ Introdução ao Azure Machine Learning; ✓ Introdução ao Pipeline

    do Azure Machine Learning; ✓ Registrar e gerenciar modelos com Azure Machine Learning Service; ✓ Implantar e consumir modelos com o serviço de Inferência em Tempo Real; ✓ Realizar a resolução de problemas na implantação do serviço; Pré-requisitos ✓ Conhecimento em Python ✓ Experiência em treinamento de modelos ✓ Utilização do Azure Machine Learning SDK; Agenda:
  4. O que é Azure Machine Learning? ✓ Plataforma completa para

    operacionalização de fluxos de trabalho de Machine Learning no Azure.
  5. Inferência - Batch x Realtime Predição imediata para novos dados

    Deployment como um web service endpoint Predição Assincrona para dados em batch Deployment como pipeline
  6. Tipo de implantação recomentada: ✓ Plataforma utilizando conteiners como o

    Azure Kubernetes Services (AKS). Outras opções de compute target para implantação: ✓ Computação local, Instancia de computação do Azure Machine Learning, Azure Container Instance (ACI), an Azure Kubernetes Service (AKS) cluster, Azure Function, ou em um modulo de Internet das coisas (IoT). Implantando um serviço de inferência em tempo real
  7. 1. Registrar um modelo treinado 2. Definir uma configuração de

    inferência ✓ Criar um script de entrada (Scoring Script) - Implementar as funções init() e run() para carregar o modelo e retornar as predições ✓ Criar um ambiente ✓ Combinar o Script com Ambiente em uma configuração de inferência. 3. Definir a configuração de implantação 4. Implantar o Modelo Passo a passo para implantação
  8. 1 – Utilizando o Azure Machine Learning SDK 2 –

    Utilizando um Endpoint REST 3 - Autenticação Você pode utilizer 2 tipos de autenticação: ✓ Key: Requisições são autenticadas por uma chave associada ao serviço. ✓ Token: Requisições autenticadas provendo um JSON Web Token (JWT). Consumir um serviço de inferência em tempo real
  9. 1 – Verificar o estado do Serviço 2 – Revisar

    os Logs do Serviço 3 – Implantar em um Container Local Resolvendo problemas de implantação
  10. • Documentação: https://docs.microsoft.com/en-us/azure/machine-learning/ • Microsoft Learn: https://docs.microsoft.com/en-us/learn/paths/build-ai-solutions-with-azure- ml-service/ • Microsoft

    Learn: https://docs.microsoft.com/en-us/learn/modules/register-and-deploy- model-with-amls/ • Como e onde realizar o deployment: https://docs.microsoft.com/en-us/azure/machine- learning/how-to-deploy-and-where?tabs=python • GitHub: https://aka.ms/mslearn-aml-labs Referências