A caixa preta da
Inteligência Artificial
Carla Vieira
Coordenadora perifaCode
Slide 3
Slide 3 text
A caixa preta da
Inteligência Artificial
Carla Vieira
@carlaprvieira
Ilustração: Hanne Mostard
Slide 4
Slide 4 text
Quem sou eu e como cheguei
aqui?
Slide 5
Slide 5 text
Zona Leste - (SP)
USP
Sistemas de Informação
Slide 6
Slide 6 text
No content
Slide 7
Slide 7 text
No content
Slide 8
Slide 8 text
No content
Slide 9
Slide 9 text
Inteligência Artificial?
Slide 10
Slide 10 text
No content
Slide 11
Slide 11 text
No content
Slide 12
Slide 12 text
No content
Slide 13
Slide 13 text
No content
Slide 14
Slide 14 text
No content
Slide 15
Slide 15 text
No content
Slide 16
Slide 16 text
Conferências de tecnologia e inovação
Slide 17
Slide 17 text
viés
dados
privacidade legislação
ética
Slide 18
Slide 18 text
No content
Slide 19
Slide 19 text
No content
Slide 20
Slide 20 text
“A culpa não é do algoritmo, os dados é que estão
enviesados”
SIM gênio! E você viu isso e fez o que? Normalizou!? Balanceou!?
Não né, só continuou reproduzindo...
(Diego – Professor de Deep Learning na UnB)
Slide 21
Slide 21 text
No content
Slide 22
Slide 22 text
Precisamos falar menos sobre o hype da
Inteligência Artificial…
… e mais sobre como estamos usando a
tecnologia.
Slide 23
Slide 23 text
Google Photos
(2015)
Slide 24
Slide 24 text
Estudo Gender
Shades
(2018)
Joy Buolamwini
Slide 25
Slide 25 text
Estudo Gender
Shades
(2018)
Slide 26
Slide 26 text
COMPAS
Software
(2016)
Estudo do software COMPAS
Slide 27
Slide 27 text
Brasil
(2019)
Slide 28
Slide 28 text
Brasil
(2019) 5 estados: Bahia, Santa Catarina, Paraíba, Rio e Ceará
Slide 29
Slide 29 text
China
(2019)
Slide 30
Slide 30 text
“Qualquer tecnologia que criamos reflete tanto
nossas aspirações quanto nossas limitações. Se
formos limitados na hora de pensar em inclusão, isso
vai ser refletido e incorporado na tecnologia que
criamos”.
Joy Buolamwini
Slide 31
Slide 31 text
Preconceito humano Tecnologia
Como remover o viés?
Slide 32
Slide 32 text
Quem está desenvolvendo Inteligência Artificial?
“Only 22% of AI professionals globally are female,
compared to 78% who are male.”
(The Global Gender Gap Report 2018 - p.28)
Slide 33
Slide 33 text
A inteligência artificial precisa
aprender com o mundo real.
Não basta criar um computador
inteligente, é preciso ensinar a ele
as coisas certas.
https://about.google/stories/gender-balance-diversity-important-to-
machine-learning/?hl=pt-BR
Slide 34
Slide 34 text
Preconceito humano Tecnologia
DIVERSIDADE
Slide 35
Slide 35 text
Estes casos ilustram um problema maior: os
algoritmos de I.A. são uma caixa-preta, opaca
e cheia de segredos.
Slide 36
Slide 36 text
No content
Slide 37
Slide 37 text
CAIXA PRETA
ENTRADA SAÍDA
Slide 38
Slide 38 text
CAIXA PRETA
ENTRADA SAÍDA
Slide 39
Slide 39 text
No content
Slide 40
Slide 40 text
Como abrir a caixa preta?
Slide 41
Slide 41 text
Como abrir a caixa preta?
TRANSPARÊNCIA
EXPLICABILIDADE
Entender a lógica por trás de
cada decisão
CONFIANÇA
Slide 42
Slide 42 text
O que são algoritmos caixa-preta?
RANDOM FOREST
SVM
REDES NEURAIS
PROFUNDAS
Slide 43
Slide 43 text
MODELOS CAIXA BRANCA
EXPLICAÇÃO DE
MODELOS CAIXA PRETA
EXPLICAÇÃO DAS SAÍDAS
EXPLICAÇÃO DO
MODELO
INSPEÇÃO DO MODELO
ABRIR A CAIXA PRETA
Métodos para explicabilidade
Slide 44
Slide 44 text
No content
Slide 45
Slide 45 text
1) Explicação do Modelo
O problema de explicação da caixa preta consiste em fornecer uma explicação
global do modelo caixa preta por meio de um modelo interpretável e
transparente. Esse modelo deve ser capaz de imitar o comportamento da caixa
preta e também deve ser compreensível pelos seres humanos
Slide 46
Slide 46 text
No content
Slide 47
Slide 47 text
2) Explicação das saídas
Dado um modelo caixa preta e uma instância de entrada, o problema da
explicação das saídas consiste em fornecer uma explicação para o resultado do
modelo nessa instância.
Slide 48
Slide 48 text
2) Inspeção do Modelo
O problema de inspeção do modelo consiste em fornecer uma representação
(visual ou textual) para entender algumas propriedades específicas do modelo
de caixa preta ou de suas previsões.
Slide 49
Slide 49 text
Existem formas de tornar a IA mais justa?
Slide 50
Slide 50 text
Existem formas de tornar a IA mais justa?
SIM!
Slide 51
Slide 51 text
Existem formas de tornar a IA mais justa?
SIM!
Consciência Diversidade
Slide 52
Slide 52 text
“O sucesso na criação da IA será o maior
acontecimento na história da humanidade.
Infelizmente, também poderá ser o último, a
menos que aprendamos como evitar os riscos.”
- Stephen Hawking
Slide 53
Slide 53 text
Entenda seu papel
no mundo, como
ser humano
Máquinas podem
fazer o mundo
melhor
Referências
− Racismo Algorítmico em Plataformas Digitais: microagressões e
discriminação em código
− Metrics for Explainable AI: Challenges and Prospects
− The Mythos of Model Interpretability
− Towards Robust Interpretability with Self-Explaining Neural Networks
− The How of Explainable AI: Post-modelling Explainability
− Lista de artigos sobre ética e IA
Slide 56
Slide 56 text
Referências
− Relatórios do AI NOW
− Notícias sobre reconhecimento facial no Brasil
− Racial and Gender bias in Amazon Rekognition
− Diversity in faces (IBM)
− Google video – Machine Learning and Human Bias
− Visão Computacional e Vieses Racializados
− Estudo Machine Bias on Compas
− Machine Learning Explainability Kaggle
− Predictive modeling: striking a balance between accuracy and interpretability