Upgrade to Pro — share decks privately, control downloads, hide ads and more …

[She's Tech] A caixa preta da Inteligência Artificial

Carla Vieira
November 22, 2019

[She's Tech] A caixa preta da Inteligência Artificial

Carla Vieira

November 22, 2019
Tweet

More Decks by Carla Vieira

Other Decks in Technology

Transcript

  1. 2 1 a 2 3 N O V E M B R O 2 0 1 9

    View full-size slide

  2. A caixa preta da
    Inteligência Artificial
    Carla Vieira
    Coordenadora perifaCode

    View full-size slide

  3. A caixa preta da
    Inteligência Artificial
    Carla Vieira
    @carlaprvieira
    Ilustração: Hanne Mostard

    View full-size slide

  4. Quem sou eu e como cheguei
    aqui?

    View full-size slide

  5. Zona Leste - (SP)
    USP
    Sistemas de Informação

    View full-size slide

  6. Inteligência Artificial?

    View full-size slide

  7. Conferências de tecnologia e inovação

    View full-size slide

  8. viés
    dados
    privacidade legislação
    ética

    View full-size slide

  9. “A culpa não é do algoritmo, os dados é que estão
    enviesados”
    SIM gênio! E você viu isso e fez o que? Normalizou!? Balanceou!?
    Não né, só continuou reproduzindo...
    (Diego – Professor de Deep Learning na UnB)

    View full-size slide

  10. Precisamos falar menos sobre o hype da
    Inteligência Artificial…
    … e mais sobre como estamos usando a
    tecnologia.

    View full-size slide

  11. Google Photos
    (2015)

    View full-size slide

  12. Estudo Gender
    Shades
    (2018)
    Joy Buolamwini

    View full-size slide

  13. Estudo Gender
    Shades
    (2018)

    View full-size slide

  14. COMPAS
    Software
    (2016)
    Estudo do software COMPAS

    View full-size slide

  15. Brasil
    (2019)

    View full-size slide

  16. Brasil
    (2019) 5 estados: Bahia, Santa Catarina, Paraíba, Rio e Ceará

    View full-size slide

  17. “Qualquer tecnologia que criamos reflete tanto
    nossas aspirações quanto nossas limitações. Se
    formos limitados na hora de pensar em inclusão, isso
    vai ser refletido e incorporado na tecnologia que
    criamos”.
    Joy Buolamwini

    View full-size slide

  18. Preconceito humano Tecnologia
    Como remover o viés?

    View full-size slide

  19. Quem está desenvolvendo Inteligência Artificial?
    “Only 22% of AI professionals globally are female,
    compared to 78% who are male.”
    (The Global Gender Gap Report 2018 - p.28)

    View full-size slide

  20. A inteligência artificial precisa
    aprender com o mundo real.
    Não basta criar um computador
    inteligente, é preciso ensinar a ele
    as coisas certas.
    https://about.google/stories/gender-balance-diversity-important-to-
    machine-learning/?hl=pt-BR

    View full-size slide

  21. Preconceito humano Tecnologia
    DIVERSIDADE

    View full-size slide

  22. Estes casos ilustram um problema maior: os
    algoritmos de I.A. são uma caixa-preta, opaca
    e cheia de segredos.

    View full-size slide

  23. CAIXA PRETA
    ENTRADA SAÍDA

    View full-size slide

  24. CAIXA PRETA
    ENTRADA SAÍDA

    View full-size slide

  25. Como abrir a caixa preta?

    View full-size slide

  26. Como abrir a caixa preta?
    TRANSPARÊNCIA
    EXPLICABILIDADE
    Entender a lógica por trás de
    cada decisão
    CONFIANÇA

    View full-size slide

  27. O que são algoritmos caixa-preta?
    RANDOM FOREST
    SVM
    REDES NEURAIS
    PROFUNDAS

    View full-size slide

  28. MODELOS CAIXA BRANCA
    EXPLICAÇÃO DE
    MODELOS CAIXA PRETA
    EXPLICAÇÃO DAS SAÍDAS
    EXPLICAÇÃO DO
    MODELO
    INSPEÇÃO DO MODELO
    ABRIR A CAIXA PRETA
    Métodos para explicabilidade

    View full-size slide

  29. 1) Explicação do Modelo
    O problema de explicação da caixa preta consiste em fornecer uma explicação
    global do modelo caixa preta por meio de um modelo interpretável e
    transparente. Esse modelo deve ser capaz de imitar o comportamento da caixa
    preta e também deve ser compreensível pelos seres humanos

    View full-size slide

  30. 2) Explicação das saídas
    Dado um modelo caixa preta e uma instância de entrada, o problema da
    explicação das saídas consiste em fornecer uma explicação para o resultado do
    modelo nessa instância.

    View full-size slide

  31. 2) Inspeção do Modelo
    O problema de inspeção do modelo consiste em fornecer uma representação
    (visual ou textual) para entender algumas propriedades específicas do modelo
    de caixa preta ou de suas previsões.

    View full-size slide

  32. Existem formas de tornar a IA mais justa?

    View full-size slide

  33. Existem formas de tornar a IA mais justa?
    SIM!

    View full-size slide

  34. Existem formas de tornar a IA mais justa?
    SIM!
    Consciência Diversidade

    View full-size slide

  35. “O sucesso na criação da IA será o maior
    acontecimento na história da humanidade.
    Infelizmente, também poderá ser o último, a
    menos que aprendamos como evitar os riscos.”
    - Stephen Hawking

    View full-size slide

  36. Entenda seu papel
    no mundo, como
    ser humano
    Máquinas podem
    fazer o mundo
    melhor

    View full-size slide

  37. @carlaprvieira | [email protected]
    perifacode.com
    tecnogueto.com.br
    Obrigada!

    View full-size slide

  38. Referências
    − Racismo Algorítmico em Plataformas Digitais: microagressões e
    discriminação em código
    − Metrics for Explainable AI: Challenges and Prospects
    − The Mythos of Model Interpretability
    − Towards Robust Interpretability with Self-Explaining Neural Networks
    − The How of Explainable AI: Post-modelling Explainability
    − Lista de artigos sobre ética e IA

    View full-size slide

  39. Referências
    − Relatórios do AI NOW
    − Notícias sobre reconhecimento facial no Brasil
    − Racial and Gender bias in Amazon Rekognition
    − Diversity in faces (IBM)
    − Google video – Machine Learning and Human Bias
    − Visão Computacional e Vieses Racializados
    − Estudo Machine Bias on Compas
    − Machine Learning Explainability Kaggle
    − Predictive modeling: striking a balance between accuracy and interpretability

    View full-size slide

  40. Iniciativas de diversidade na IA

    View full-size slide