Upgrade to Pro — share decks privately, control downloads, hide ads and more …

Como implantar modelos de machine learning com ...

Como implantar modelos de machine learning com Azure Machine Learning - Microsoft Reactor

Saiba como registrar e implantar modelos de ML no Serviço do Azure Machine Learning. Nesta apresentação você vai aprender a: Implantar um modelo como um serviço de inferência em tempo real. Consumir um serviço de inferência em tempo real. Solucionar problemas de implantação de serviço.

sidney cirqueira

October 29, 2020
Tweet

More Decks by sidney cirqueira

Other Decks in Technology

Transcript

  1. Azure Machine Learning Como Implantar Modelos de Machine Learning Sidney

    Cirqueira– Microsoft Learn Student Ambassador
  2. Sidney Cirqueira ✓ Analista de Dados & AI – Lanlink;

    ✓ Pós - Graduando em Big Data & Machine Learning - FASAM; ✓ Experiência focada em Engenharia de Dados e IA no MS Azure; ✓ Ciclista / Futevôlei
  3. O que é Azure Machine Learning? Computação Escalável sobre demanda

    Implantação de Modelos Armazenamento de dados e conectividade ML Orquestração de Fluxo de trabalho Gerenciamento e registro de modelos Metricas e monitoramento ✓ Plataforma completa para operacionalização de fluxos de trabalho de Machine Learning no Azure.
  4. Inferência - Batch x Realtime Predição imediata para novos dados

    Deployment como um web service endpoint Predição Assincrona para dados em batch Deployment como pipeline
  5. Tipo de implantação recomentada: ✓ Plataforma utilizando conteiners como o

    Azure Kubernetes Services (AKS). Outras opções de compute target para implantação: ✓ Computação local, Instancia de computação do Azure Machine Learning, Azure Container Instance (ACI), an Azure Kubernetes Service (AKS) cluster, Azure Function, ou em um modulo de Internet das coisas (IoT). Implantando um serviço de inferência em tempo real
  6. 1. Registrar um modelo treinado 2. Definir uma configuração de

    inferência ✓ Criar um script de entrada (Scoring Script) - Implementar as funções init() e run() para carregar o modelo e retornar as predições ✓ Criar um ambiente ✓ Combinar o Script com Ambiente em uma configuração de inferência. 3. Definir a configuração de implantação 4. Implantar o Modelo Passo a passo para implantação
  7. 1 – Azure Machine Learning SDK 2 – Endpoint REST

    3 - Autenticação Você pode utilizer 2 tipos de autenticação: ✓ Key: Requisições são autenticadas por uma chave associada ao serviço. ✓ Token: Requisições autenticadas provendo um JSON Web Token (JWT). Consumir um serviço de inferência em tempo real
  8. 1 – Verificar o estado do Serviço 2 – Revisar

    os Logs do Serviço 3 – Implantar em um Container Local Resolvendo problemas de implantação
  9. • Documentação: https://docs.microsoft.com/en-us/azure/machine-learning/ • Microsoft Learn: https://docs.microsoft.com/en-us/learn/paths/build-ai-solutions-with-azure-ml-service/ • Microsoft Learn:

    https://docs.microsoft.com/en-us/learn/modules/register-and-deploy-model-with-amls/ • Como e onde realizar o deployment: https://docs.microsoft.com/en-us/azure/machine-learning/how-to- deploy-and-where?tabs=pythons • GitHub: https://aka.ms/mslearn-aml-labs Referências