[She's Tech] A caixa preta da Inteligência Artificial

[She's Tech] A caixa preta da Inteligência Artificial

B6e0ee98a08a3863043dc3edc5789029?s=128

Carla Vieira

November 22, 2019
Tweet

Transcript

  1. 1.

    2 1 a 2 3 N O V E M

    B R O 2 0 1 9
  2. 6.
  3. 7.
  4. 8.
  5. 10.
  6. 11.
  7. 12.
  8. 13.
  9. 14.
  10. 15.
  11. 18.
  12. 19.
  13. 20.

    “A culpa não é do algoritmo, os dados é que

    estão enviesados” SIM gênio! E você viu isso e fez o que? Normalizou!? Balanceou!? Não né, só continuou reproduzindo... (Diego – Professor de Deep Learning na UnB)
  14. 21.
  15. 22.

    Precisamos falar menos sobre o hype da Inteligência Artificial… …

    e mais sobre como estamos usando a tecnologia.
  16. 30.

    “Qualquer tecnologia que criamos reflete tanto nossas aspirações quanto nossas

    limitações. Se formos limitados na hora de pensar em inclusão, isso vai ser refletido e incorporado na tecnologia que criamos”. Joy Buolamwini
  17. 32.

    Quem está desenvolvendo Inteligência Artificial? “Only 22% of AI professionals

    globally are female, compared to 78% who are male.” (The Global Gender Gap Report 2018 - p.28)
  18. 33.

    A inteligência artificial precisa aprender com o mundo real. Não

    basta criar um computador inteligente, é preciso ensinar a ele as coisas certas. https://about.google/stories/gender-balance-diversity-important-to- machine-learning/?hl=pt-BR
  19. 35.

    Estes casos ilustram um problema maior: os algoritmos de I.A.

    são uma caixa-preta, opaca e cheia de segredos.
  20. 36.
  21. 39.
  22. 43.

    MODELOS CAIXA BRANCA EXPLICAÇÃO DE MODELOS CAIXA PRETA EXPLICAÇÃO DAS

    SAÍDAS EXPLICAÇÃO DO MODELO INSPEÇÃO DO MODELO ABRIR A CAIXA PRETA Métodos para explicabilidade
  23. 44.
  24. 45.

    1) Explicação do Modelo O problema de explicação da caixa

    preta consiste em fornecer uma explicação global do modelo caixa preta por meio de um modelo interpretável e transparente. Esse modelo deve ser capaz de imitar o comportamento da caixa preta e também deve ser compreensível pelos seres humanos
  25. 46.
  26. 47.

    2) Explicação das saídas Dado um modelo caixa preta e

    uma instância de entrada, o problema da explicação das saídas consiste em fornecer uma explicação para o resultado do modelo nessa instância.
  27. 48.

    2) Inspeção do Modelo O problema de inspeção do modelo

    consiste em fornecer uma representação (visual ou textual) para entender algumas propriedades específicas do modelo de caixa preta ou de suas previsões.
  28. 52.

    “O sucesso na criação da IA será o maior acontecimento

    na história da humanidade. Infelizmente, também poderá ser o último, a menos que aprendamos como evitar os riscos.” - Stephen Hawking
  29. 55.

    Referências − Racismo Algorítmico em Plataformas Digitais: microagressões e discriminação

    em código − Metrics for Explainable AI: Challenges and Prospects − The Mythos of Model Interpretability − Towards Robust Interpretability with Self-Explaining Neural Networks − The How of Explainable AI: Post-modelling Explainability − Lista de artigos sobre ética e IA
  30. 56.

    Referências − Relatórios do AI NOW − Notícias sobre reconhecimento

    facial no Brasil − Racial and Gender bias in Amazon Rekognition − Diversity in faces (IBM) − Google video – Machine Learning and Human Bias − Visão Computacional e Vieses Racializados − Estudo Machine Bias on Compas − Machine Learning Explainability Kaggle − Predictive modeling: striking a balance between accuracy and interpretability