[She's Tech] A caixa preta da Inteligência Artificial

Transcript

1. 2 1 a 2 3 N O V E M

   B R O 2 0 1 9

2. A caixa preta da Inteligência Artificial Carla Vieira Coordenadora perifaCode

3. A caixa preta da Inteligência Artificial Carla Vieira @carlaprvieira Ilustração:

   Hanne Mostard

4. Quem sou eu e como cheguei aqui?

5. Zona Leste - (SP) USP Sistemas de Informação

6. None
7. None
8. None

9. Inteligência Artificial?

10. None
11. None
12. None
13. None
14. None
15. None

16. Conferências de tecnologia e inovação

17. viés dados privacidade legislação ética

18. None
19. None

20. “A culpa não é do algoritmo, os dados é que

    estão enviesados” SIM gênio! E você viu isso e fez o que? Normalizou!? Balanceou!? Não né, só continuou reproduzindo... (Diego – Professor de Deep Learning na UnB)
21. None

22. Precisamos falar menos sobre o hype da Inteligência Artificial… …

    e mais sobre como estamos usando a tecnologia.

23. Google Photos (2015)

24. Estudo Gender Shades (2018) Joy Buolamwini

25. Estudo Gender Shades (2018)

26. COMPAS Software (2016) Estudo do software COMPAS

27. Brasil (2019)

28. Brasil (2019) 5 estados: Bahia, Santa Catarina, Paraíba, Rio e

    Ceará

29. China (2019)

30. “Qualquer tecnologia que criamos reflete tanto nossas aspirações quanto nossas

    limitações. Se formos limitados na hora de pensar em inclusão, isso vai ser refletido e incorporado na tecnologia que criamos”. Joy Buolamwini

31. Preconceito humano Tecnologia Como remover o viés?

32. Quem está desenvolvendo Inteligência Artificial? “Only 22% of AI professionals

    globally are female, compared to 78% who are male.” (The Global Gender Gap Report 2018 - p.28)

33. A inteligência artificial precisa aprender com o mundo real. Não

    basta criar um computador inteligente, é preciso ensinar a ele as coisas certas. https://about.google/stories/gender-balance-diversity-important-to- machine-learning/?hl=pt-BR

34. Preconceito humano Tecnologia DIVERSIDADE

35. Estes casos ilustram um problema maior: os algoritmos de I.A.

    são uma caixa-preta, opaca e cheia de segredos.
36. None

37. CAIXA PRETA ENTRADA SAÍDA

38. CAIXA PRETA ENTRADA SAÍDA

39. None

40. Como abrir a caixa preta?

41. Como abrir a caixa preta? TRANSPARÊNCIA EXPLICABILIDADE Entender a lógica

    por trás de cada decisão CONFIANÇA

42. O que são algoritmos caixa-preta? RANDOM FOREST SVM REDES NEURAIS

    PROFUNDAS

43. MODELOS CAIXA BRANCA EXPLICAÇÃO DE MODELOS CAIXA PRETA EXPLICAÇÃO DAS

    SAÍDAS EXPLICAÇÃO DO MODELO INSPEÇÃO DO MODELO ABRIR A CAIXA PRETA Métodos para explicabilidade
44. None

45. 1) Explicação do Modelo O problema de explicação da caixa

    preta consiste em fornecer uma explicação global do modelo caixa preta por meio de um modelo interpretável e transparente. Esse modelo deve ser capaz de imitar o comportamento da caixa preta e também deve ser compreensível pelos seres humanos
46. None

47. 2) Explicação das saídas Dado um modelo caixa preta e

    uma instância de entrada, o problema da explicação das saídas consiste em fornecer uma explicação para o resultado do modelo nessa instância.

48. 2) Inspeção do Modelo O problema de inspeção do modelo

    consiste em fornecer uma representação (visual ou textual) para entender algumas propriedades específicas do modelo de caixa preta ou de suas previsões.

49. Existem formas de tornar a IA mais justa?

50. Existem formas de tornar a IA mais justa? SIM!

51. Existem formas de tornar a IA mais justa? SIM! Consciência

    Diversidade

52. “O sucesso na criação da IA será o maior acontecimento

    na história da humanidade. Infelizmente, também poderá ser o último, a menos que aprendamos como evitar os riscos.” - Stephen Hawking

53. Entenda seu papel no mundo, como ser humano Máquinas podem

    fazer o mundo melhor

54. @carlaprvieira | carlaprv@hotmail.com perifacode.com tecnogueto.com.br Obrigada!

55. Referências − Racismo Algorítmico em Plataformas Digitais: microagressões e discriminação

    em código − Metrics for Explainable AI: Challenges and Prospects − The Mythos of Model Interpretability − Towards Robust Interpretability with Self-Explaining Neural Networks − The How of Explainable AI: Post-modelling Explainability − Lista de artigos sobre ética e IA

56. Referências − Relatórios do AI NOW − Notícias sobre reconhecimento

    facial no Brasil − Racial and Gender bias in Amazon Rekognition − Diversity in faces (IBM) − Google video – Machine Learning and Human Bias − Visão Computacional e Vieses Racializados − Estudo Machine Bias on Compas − Machine Learning Explainability Kaggle − Predictive modeling: striking a balance between accuracy and interpretability

57. Iniciativas de diversidade na IA