[She's Tech] A caixa preta da Inteligência Artificial

[She's Tech] A caixa preta da Inteligência Artificial

B6e0ee98a08a3863043dc3edc5789029?s=128

Carla Vieira

November 22, 2019
Tweet

Transcript

  1. 2 1 a 2 3 N O V E M

    B R O 2 0 1 9
  2. A caixa preta da Inteligência Artificial Carla Vieira Coordenadora perifaCode

  3. A caixa preta da Inteligência Artificial Carla Vieira @carlaprvieira Ilustração:

    Hanne Mostard
  4. Quem sou eu e como cheguei aqui?

  5. Zona Leste - (SP) USP Sistemas de Informação

  6. None
  7. None
  8. None
  9. Inteligência Artificial?

  10. None
  11. None
  12. None
  13. None
  14. None
  15. None
  16. Conferências de tecnologia e inovação

  17. viés dados privacidade legislação ética

  18. None
  19. None
  20. “A culpa não é do algoritmo, os dados é que

    estão enviesados” SIM gênio! E você viu isso e fez o que? Normalizou!? Balanceou!? Não né, só continuou reproduzindo... (Diego – Professor de Deep Learning na UnB)
  21. None
  22. Precisamos falar menos sobre o hype da Inteligência Artificial… …

    e mais sobre como estamos usando a tecnologia.
  23. Google Photos (2015)

  24. Estudo Gender Shades (2018) Joy Buolamwini

  25. Estudo Gender Shades (2018)

  26. COMPAS Software (2016) Estudo do software COMPAS

  27. Brasil (2019)

  28. Brasil (2019) 5 estados: Bahia, Santa Catarina, Paraíba, Rio e

    Ceará
  29. China (2019)

  30. “Qualquer tecnologia que criamos reflete tanto nossas aspirações quanto nossas

    limitações. Se formos limitados na hora de pensar em inclusão, isso vai ser refletido e incorporado na tecnologia que criamos”. Joy Buolamwini
  31. Preconceito humano Tecnologia Como remover o viés?

  32. Quem está desenvolvendo Inteligência Artificial? “Only 22% of AI professionals

    globally are female, compared to 78% who are male.” (The Global Gender Gap Report 2018 - p.28)
  33. A inteligência artificial precisa aprender com o mundo real. Não

    basta criar um computador inteligente, é preciso ensinar a ele as coisas certas. https://about.google/stories/gender-balance-diversity-important-to- machine-learning/?hl=pt-BR
  34. Preconceito humano Tecnologia DIVERSIDADE

  35. Estes casos ilustram um problema maior: os algoritmos de I.A.

    são uma caixa-preta, opaca e cheia de segredos.
  36. None
  37. CAIXA PRETA ENTRADA SAÍDA

  38. CAIXA PRETA ENTRADA SAÍDA

  39. None
  40. Como abrir a caixa preta?

  41. Como abrir a caixa preta? TRANSPARÊNCIA EXPLICABILIDADE Entender a lógica

    por trás de cada decisão CONFIANÇA
  42. O que são algoritmos caixa-preta? RANDOM FOREST SVM REDES NEURAIS

    PROFUNDAS
  43. MODELOS CAIXA BRANCA EXPLICAÇÃO DE MODELOS CAIXA PRETA EXPLICAÇÃO DAS

    SAÍDAS EXPLICAÇÃO DO MODELO INSPEÇÃO DO MODELO ABRIR A CAIXA PRETA Métodos para explicabilidade
  44. None
  45. 1) Explicação do Modelo O problema de explicação da caixa

    preta consiste em fornecer uma explicação global do modelo caixa preta por meio de um modelo interpretável e transparente. Esse modelo deve ser capaz de imitar o comportamento da caixa preta e também deve ser compreensível pelos seres humanos
  46. None
  47. 2) Explicação das saídas Dado um modelo caixa preta e

    uma instância de entrada, o problema da explicação das saídas consiste em fornecer uma explicação para o resultado do modelo nessa instância.
  48. 2) Inspeção do Modelo O problema de inspeção do modelo

    consiste em fornecer uma representação (visual ou textual) para entender algumas propriedades específicas do modelo de caixa preta ou de suas previsões.
  49. Existem formas de tornar a IA mais justa?

  50. Existem formas de tornar a IA mais justa? SIM!

  51. Existem formas de tornar a IA mais justa? SIM! Consciência

    Diversidade
  52. “O sucesso na criação da IA será o maior acontecimento

    na história da humanidade. Infelizmente, também poderá ser o último, a menos que aprendamos como evitar os riscos.” - Stephen Hawking
  53. Entenda seu papel no mundo, como ser humano Máquinas podem

    fazer o mundo melhor
  54. @carlaprvieira | carlaprv@hotmail.com perifacode.com tecnogueto.com.br Obrigada!

  55. Referências − Racismo Algorítmico em Plataformas Digitais: microagressões e discriminação

    em código − Metrics for Explainable AI: Challenges and Prospects − The Mythos of Model Interpretability − Towards Robust Interpretability with Self-Explaining Neural Networks − The How of Explainable AI: Post-modelling Explainability − Lista de artigos sobre ética e IA
  56. Referências − Relatórios do AI NOW − Notícias sobre reconhecimento

    facial no Brasil − Racial and Gender bias in Amazon Rekognition − Diversity in faces (IBM) − Google video – Machine Learning and Human Bias − Visão Computacional e Vieses Racializados − Estudo Machine Bias on Compas − Machine Learning Explainability Kaggle − Predictive modeling: striking a balance between accuracy and interpretability
  57. Iniciativas de diversidade na IA