Upgrade to Pro — share decks privately, control downloads, hide ads and more …

[She's Tech] A caixa preta da Inteligência Artificial

[She's Tech] A caixa preta da Inteligência Artificial

Carla Vieira

November 22, 2019
Tweet

More Decks by Carla Vieira

Other Decks in Technology

Transcript

  1. 2 1 a 2 3 N O V E M B R O 2 0 1 9

    View Slide

  2. A caixa preta da
    Inteligência Artificial
    Carla Vieira
    Coordenadora perifaCode

    View Slide

  3. A caixa preta da
    Inteligência Artificial
    Carla Vieira
    @carlaprvieira
    Ilustração: Hanne Mostard

    View Slide

  4. Quem sou eu e como cheguei
    aqui?

    View Slide

  5. Zona Leste - (SP)
    USP
    Sistemas de Informação

    View Slide

  6. View Slide

  7. View Slide

  8. View Slide

  9. Inteligência Artificial?

    View Slide

  10. View Slide

  11. View Slide

  12. View Slide

  13. View Slide

  14. View Slide

  15. View Slide

  16. Conferências de tecnologia e inovação

    View Slide

  17. viés
    dados
    privacidade legislação
    ética

    View Slide

  18. View Slide

  19. View Slide

  20. “A culpa não é do algoritmo, os dados é que estão
    enviesados”
    SIM gênio! E você viu isso e fez o que? Normalizou!? Balanceou!?
    Não né, só continuou reproduzindo...
    (Diego – Professor de Deep Learning na UnB)

    View Slide

  21. View Slide

  22. Precisamos falar menos sobre o hype da
    Inteligência Artificial…
    … e mais sobre como estamos usando a
    tecnologia.

    View Slide

  23. Google Photos
    (2015)

    View Slide

  24. Estudo Gender
    Shades
    (2018)
    Joy Buolamwini

    View Slide

  25. Estudo Gender
    Shades
    (2018)

    View Slide

  26. COMPAS
    Software
    (2016)
    Estudo do software COMPAS

    View Slide

  27. Brasil
    (2019)

    View Slide

  28. Brasil
    (2019) 5 estados: Bahia, Santa Catarina, Paraíba, Rio e Ceará

    View Slide

  29. China
    (2019)

    View Slide

  30. “Qualquer tecnologia que criamos reflete tanto
    nossas aspirações quanto nossas limitações. Se
    formos limitados na hora de pensar em inclusão, isso
    vai ser refletido e incorporado na tecnologia que
    criamos”.
    Joy Buolamwini

    View Slide

  31. Preconceito humano Tecnologia
    Como remover o viés?

    View Slide

  32. Quem está desenvolvendo Inteligência Artificial?
    “Only 22% of AI professionals globally are female,
    compared to 78% who are male.”
    (The Global Gender Gap Report 2018 - p.28)

    View Slide

  33. A inteligência artificial precisa
    aprender com o mundo real.
    Não basta criar um computador
    inteligente, é preciso ensinar a ele
    as coisas certas.
    https://about.google/stories/gender-balance-diversity-important-to-
    machine-learning/?hl=pt-BR

    View Slide

  34. Preconceito humano Tecnologia
    DIVERSIDADE

    View Slide

  35. Estes casos ilustram um problema maior: os
    algoritmos de I.A. são uma caixa-preta, opaca
    e cheia de segredos.

    View Slide

  36. View Slide

  37. CAIXA PRETA
    ENTRADA SAÍDA

    View Slide

  38. CAIXA PRETA
    ENTRADA SAÍDA

    View Slide

  39. View Slide

  40. Como abrir a caixa preta?

    View Slide

  41. Como abrir a caixa preta?
    TRANSPARÊNCIA
    EXPLICABILIDADE
    Entender a lógica por trás de
    cada decisão
    CONFIANÇA

    View Slide

  42. O que são algoritmos caixa-preta?
    RANDOM FOREST
    SVM
    REDES NEURAIS
    PROFUNDAS

    View Slide

  43. MODELOS CAIXA BRANCA
    EXPLICAÇÃO DE
    MODELOS CAIXA PRETA
    EXPLICAÇÃO DAS SAÍDAS
    EXPLICAÇÃO DO
    MODELO
    INSPEÇÃO DO MODELO
    ABRIR A CAIXA PRETA
    Métodos para explicabilidade

    View Slide

  44. View Slide

  45. 1) Explicação do Modelo
    O problema de explicação da caixa preta consiste em fornecer uma explicação
    global do modelo caixa preta por meio de um modelo interpretável e
    transparente. Esse modelo deve ser capaz de imitar o comportamento da caixa
    preta e também deve ser compreensível pelos seres humanos

    View Slide

  46. View Slide

  47. 2) Explicação das saídas
    Dado um modelo caixa preta e uma instância de entrada, o problema da
    explicação das saídas consiste em fornecer uma explicação para o resultado do
    modelo nessa instância.

    View Slide

  48. 2) Inspeção do Modelo
    O problema de inspeção do modelo consiste em fornecer uma representação
    (visual ou textual) para entender algumas propriedades específicas do modelo
    de caixa preta ou de suas previsões.

    View Slide

  49. Existem formas de tornar a IA mais justa?

    View Slide

  50. Existem formas de tornar a IA mais justa?
    SIM!

    View Slide

  51. Existem formas de tornar a IA mais justa?
    SIM!
    Consciência Diversidade

    View Slide

  52. “O sucesso na criação da IA será o maior
    acontecimento na história da humanidade.
    Infelizmente, também poderá ser o último, a
    menos que aprendamos como evitar os riscos.”
    - Stephen Hawking

    View Slide

  53. Entenda seu papel
    no mundo, como
    ser humano
    Máquinas podem
    fazer o mundo
    melhor

    View Slide

  54. @carlaprvieira | [email protected]
    perifacode.com
    tecnogueto.com.br
    Obrigada!

    View Slide

  55. Referências
    − Racismo Algorítmico em Plataformas Digitais: microagressões e
    discriminação em código
    − Metrics for Explainable AI: Challenges and Prospects
    − The Mythos of Model Interpretability
    − Towards Robust Interpretability with Self-Explaining Neural Networks
    − The How of Explainable AI: Post-modelling Explainability
    − Lista de artigos sobre ética e IA

    View Slide

  56. Referências
    − Relatórios do AI NOW
    − Notícias sobre reconhecimento facial no Brasil
    − Racial and Gender bias in Amazon Rekognition
    − Diversity in faces (IBM)
    − Google video – Machine Learning and Human Bias
    − Visão Computacional e Vieses Racializados
    − Estudo Machine Bias on Compas
    − Machine Learning Explainability Kaggle
    − Predictive modeling: striking a balance between accuracy and interpretability

    View Slide

  57. Iniciativas de diversidade na IA

    View Slide