A caixa preta da Inteligência Artificial

Slide 1

Slide 1 text

A caixa preta da Inteligência Artificial Carla Vieira @carlaprvieira Ilustração: Hanne Mostard GOIÁS

Slide 2

Slide 2 text

Developer, Speaker and Artificial Intelligence Evangelist @carlaprvieira Carla Vieira FORMAÇÃO ENSINO TRABALHO Graduanda de Sistemas de Informação pela USP Aluna Especial pela USP Mestrado (em breve) Professora de Desenvolvimento Web na Habits Professora de introdução a IA e ML Desenvolvedora Coordenadora Perifacode

Slide 3

Slide 3 text

No content

Slide 4

Slide 4 text

No content

Slide 5

Slide 5 text

No content

Slide 6

Slide 6 text

https://www.slideshare.net/DataStax/netflix-recommendations-using-spark-cassandra

Slide 7

Slide 7 text

No content

Slide 8

Slide 8 text

No content

Slide 9

Slide 9 text

No content

Slide 10

Slide 10 text

No content

Slide 11

Slide 11 text

No content

Slide 12

Slide 12 text

viés dados privacidade legislação ética

Slide 13

Slide 13 text

No content

Slide 14

Slide 14 text

Precisamos falar menos sobre o hype da Inteligência Artificial… … e mais sobre como estamos usando a tecnologia.

Slide 15

Slide 15 text

Google Photos (2015)

Slide 16

Slide 16 text

Google Photos (2015)

Slide 17

Slide 17 text

Twitter (2017)

Slide 18

Slide 18 text

Como estou combatendo o viés algorítmico TED (2018) Joy Buolamwini

Slide 19

Slide 19 text

Estudo Gender Shades (2018)

Slide 20

Slide 20 text

Estudo Gender Shades (2018) http://proceedings.mlr.press/v81/buolamwini18a/buolamwini18a.pdf

Slide 21

Slide 21 text

“Qualquer tecnologia que criamos reflete tanto nossas aspirações quanto nossas limitações. Se formos limitados na hora de pensar em inclusão, isso vai ser refletido e incorporado na tecnologia que criamos”. Joy Buolamwini

Slide 22

Slide 22 text

Google Detecção de discurso de ódio (2019)

Slide 23

Slide 23 text

• 46% de falsos positivos para afro-americanos • 1.5 mais chances das postagens serem rotuladas como ofensivas https://homes.cs.washington.edu/~msap/pdfs/sap2019risk.pdf

Slide 24

Slide 24 text

COMPAS Software (2016)

Slide 25

Slide 25 text

COMPAS Software (2016) Algoritmos não conseguem fazer análises subjetivas O que determina se um algoritmo é justo quando o que está em jogo é uma sentença criminal?

Slide 26

Slide 26 text

COMPAS Software (2016) Algoritmos não conseguem fazer análises subjetivas O que determina se um algoritmo é justo quando o que está em jogo é uma sentença criminal?

Slide 27

Slide 27 text

JUSTIÇA MATEMÁTICA

Slide 28

Slide 28 text

Preconceito humano Tecnologia Como remover o viés?

Slide 29

Slide 29 text

Quem está desenvolvendo Inteligência Artificial? “Only 22% of AI professionals globally are female, compared to 78% who are male.” (The Global Gender Gap Report 2018 - p.28)

Slide 30

Slide 30 text

Preconceito humano Tecnologia DIVERSIDADE

Slide 31

Slide 31 text

A inteligência artificial precisa aprender com o mundo real. Não basta criar um computador inteligente, é preciso ensinar a ele as coisas certas. https://about.google/stories/gender-balance-diversity-important-to- machine-learning/?hl=pt-BR

Slide 32

Slide 32 text

https://www.research.ibm.com/artificial-intelligence/trusted-ai/diversity-in-faces/

Slide 33

Slide 33 text

Estes casos ilustram um problema maior: os algoritmos de I.A. são uma caixa-preta, opaca e cheia de segredos.

Slide 34

Slide 34 text

No content

Slide 35

Slide 35 text

No content

Slide 36

Slide 36 text

No content

Slide 37

Slide 37 text

CAIXA PRETA INPUT OUTPUT

Slide 38

Slide 38 text

CAIXA PRETA INPUT OUTPUT

Slide 39

Slide 39 text

viés dados privacidade legislação ética Por que abrir a caixa preta?

Slide 40

Slide 40 text

França (2019)

Slide 41

Slide 41 text

"Esse tipo de lei é uma desgraça para uma democracia. A Justiça é usada em nome do povo, tentar esconder informações de agentes da lei ou de cidadãos nunca será a coisa certa a fazer.” Louis Larret Chahine Co-fondateur de PREDICTICE

Slide 42

Slide 42 text

Estados Unidos (2019)

Slide 43

Slide 43 text

Brasil (2019)

Slide 44

Slide 44 text

“ (...) diferentemente do que foi apontado, não realiza reconhecimento facial, mas, sim, detecção facial, por meio do qual estima apenas o gênero, a faixa etária e o humor dos consumidores, de forma anônima". Gerente de Marca Hering

Slide 45

Slide 45 text

Como abrir a caixa preta? TRANSPARÊNCIA EXPLICABILIDADE Entender a lógica por trás de cada decisão CONFIANÇA

Slide 46

Slide 46 text

explicabilidade Refere-se à capacidade do sistema de explicar porque chegou a determinado resultado em linguagem compreensível para um ser humano.

Slide 47

Slide 47 text

Dados explicáveis Predições explicáveis Algoritmos explicáveis Quais os dados utilizados para treinar o modelo e por quê? Quais as características e pesos utilizados para essa predição? Quais são as camadas e processos internos desse algoritmo?

Slide 48

Slide 48 text

No content

Slide 49

Slide 49 text

No content

Slide 50

Slide 50 text

As soluções de Inteligência Artificial não são e não serão infalíveis. Mas, a explicabilidade pode ajudar...

Slide 51

Slide 51 text

“O sucesso na criação da IA será o maior acontecimento na história da humanidade. Infelizmente, também poderá ser o último, a menos que aprendamos como evitar os riscos.” Stephen Hawking

Slide 52

Slide 52 text

No content

Slide 53

Slide 53 text

No content

Slide 54

Slide 54 text

No content

Slide 55

Slide 55 text

No content

Slide 56

Slide 56 text

No content

Slide 57

Slide 57 text

http://www.portaltransparencia.gov.br/download-de-dados

Slide 58

Slide 58 text

Acessibilidade de dados Explicabilidade dos algoritmos Diversidade nos talentos Desafios

Slide 59

Slide 59 text

https://brasil.io/home https://serenata.ai/ https://colaboradados.github.io/

Slide 60

Slide 60 text

Se a tecnologia quiser ajudar na construção de uma sociedade mais justa, ela tem que ser aberta e transparente.

Slide 61

Slide 61 text

Antes de falar sobre futuro... ... precisamos falar sobre o que está acontecendo hoje, agora.

Slide 62

Slide 62 text

Obrigada! Carla Vieira @carlaprvieira [email protected] bit.ly/goias-carla

Slide 63

Slide 63 text

Referências − Relatórios do AI NOW − Racial and Gender viés in Amazon Rekognition − Diversity in faces (IBM) − Google video – Machine Learning and Human viés − Visão Computacional e Vieses Racializados − Estudo Machine viés on Compas − Machine Learning Explainability Kaggle − Predictive modeling: striking a balance between accuracy and interpretability

Slide 64

Slide 64 text

Referências −Racismo Algorítmico em Plataformas Digitais: microagressões e discriminação em código −Metrics for Explainable AI: Challenges and Prospects −The Mythos of Model Interpretability −Towards Robust Interpretability with Self-Explaining Neural Networks −The How of Explainable AI: Post-modelling Explainability