[She's Tech] A caixa preta da Inteligência Artificial

Transcript

1. 2 1 a 2 3 N O V E M B R O 2 0 1 9
2. A caixa preta da Inteligência Artificial Carla Vieira Coordenadora perifaCode
3. A caixa preta da Inteligência Artificial Carla Vieira @carlaprvieira Ilustração: Hanne Mostard
4. Quem sou eu e como cheguei aqui?
5. Zona Leste - (SP) USP Sistemas de Informação
9. Inteligência Artificial?
16. Conferências de tecnologia e inovação
17. viés dados privacidade legislação ética
20. “A culpa não é do algoritmo, os dados é que estão enviesados” SIM gênio! E você viu isso e fez o que? Normalizou!? Balanceou!? Não né, só continuou reproduzindo... (Diego – Professor de Deep Learning na UnB)
22. Precisamos falar menos sobre o hype da Inteligência Artificial… … e mais sobre como estamos usando a tecnologia.
23. Google Photos (2015)
24. Estudo Gender Shades (2018) Joy Buolamwini
25. Estudo Gender Shades (2018)
26. COMPAS Software (2016) Estudo do software COMPAS
27. Brasil (2019)
28. Brasil (2019) 5 estados: Bahia, Santa Catarina, Paraíba, Rio e Ceará
29. China (2019)
30. “Qualquer tecnologia que criamos reflete tanto nossas aspirações quanto nossas limitações. Se formos limitados na hora de pensar em inclusão, isso vai ser refletido e incorporado na tecnologia que criamos”. Joy Buolamwini
31. Preconceito humano Tecnologia Como remover o viés?
32. Quem está desenvolvendo Inteligência Artificial? “Only 22% of AI professionals globally are female, compared to 78% who are male.” (The Global Gender Gap Report 2018 - p.28)
33. A inteligência artificial precisa aprender com o mundo real. Não basta criar um computador inteligente, é preciso ensinar a ele as coisas certas. https://about.google/stories/gender-balance-diversity-important-to- machine-learning/?hl=pt-BR
34. Preconceito humano Tecnologia DIVERSIDADE
35. Estes casos ilustram um problema maior: os algoritmos de I.A. são uma caixa-preta, opaca e cheia de segredos.
37. CAIXA PRETA ENTRADA SAÍDA
38. CAIXA PRETA ENTRADA SAÍDA
40. Como abrir a caixa preta?
41. Como abrir a caixa preta? TRANSPARÊNCIA EXPLICABILIDADE Entender a lógica por trás de cada decisão CONFIANÇA
42. O que são algoritmos caixa-preta? RANDOM FOREST SVM REDES NEURAIS PROFUNDAS
43. MODELOS CAIXA BRANCA EXPLICAÇÃO DE MODELOS CAIXA PRETA EXPLICAÇÃO DAS SAÍDAS EXPLICAÇÃO DO MODELO INSPEÇÃO DO MODELO ABRIR A CAIXA PRETA Métodos para explicabilidade
45. 1) Explicação do Modelo O problema de explicação da caixa preta consiste em fornecer uma explicação global do modelo caixa preta por meio de um modelo interpretável e transparente. Esse modelo deve ser capaz de imitar o comportamento da caixa preta e também deve ser compreensível pelos seres humanos
47. 2) Explicação das saídas Dado um modelo caixa preta e uma instância de entrada, o problema da explicação das saídas consiste em fornecer uma explicação para o resultado do modelo nessa instância.
48. 2) Inspeção do Modelo O problema de inspeção do modelo consiste em fornecer uma representação (visual ou textual) para entender algumas propriedades específicas do modelo de caixa preta ou de suas previsões.
49. Existem formas de tornar a IA mais justa?
50. Existem formas de tornar a IA mais justa? SIM!
51. Existem formas de tornar a IA mais justa? SIM! Consciência Diversidade
52. “O sucesso na criação da IA será o maior acontecimento na história da humanidade. Infelizmente, também poderá ser o último, a menos que aprendamos como evitar os riscos.” - Stephen Hawking
53. Entenda seu papel no mundo, como ser humano Máquinas podem fazer o mundo melhor
54. @carlaprvieira | carlaprv@hotmail.com perifacode.com tecnogueto.com.br Obrigada!
55. Referências − Racismo Algorítmico em Plataformas Digitais: microagressões e discriminação em código − Metrics for Explainable AI: Challenges and Prospects − The Mythos of Model Interpretability − Towards Robust Interpretability with Self-Explaining Neural Networks − The How of Explainable AI: Post-modelling Explainability − Lista de artigos sobre ética e IA
56. Referências − Relatórios do AI NOW − Notícias sobre reconhecimento facial no Brasil − Racial and Gender bias in Amazon Rekognition − Diversity in faces (IBM) − Google video – Machine Learning and Human Bias − Visão Computacional e Vieses Racializados − Estudo Machine Bias on Compas − Machine Learning Explainability Kaggle − Predictive modeling: striking a balance between accuracy and interpretability
57. Iniciativas de diversidade na IA