Slide 1

Slide 1 text

Algoritmos Racistas O que fazer? Ruan Brandão

Slide 2

Slide 2 text

RUAN BRANDÃO Engenheiro de Software Palestrante Estudante de Filosofia e sua relação com a tecnologia

Slide 3

Slide 3 text

ALGORITMOS

Slide 4

Slide 4 text

"Um conjunto de regras ou instruções matemáticas que, especialmente se dadas a um computador, ajudarão a calcular a resposta para um problema" Dicionário Cambridge

Slide 5

Slide 5 text

Pode ser simples "Checar se um número é par" Dado número N Divida N por 2 e pegue o resto da divisão Se o resto for = 0 Se o resto for ≠ 0 O número é par O número não é par

Slide 6

Slide 6 text

Pode ser complexo "Prever como vai estar o tempo daqui alguns dias"

Slide 7

Slide 7 text

Leva em consideração dezenas de variáveis como: Imagens de satélite Medição de rios e lagos Temperatura atual Velocidade e direção do vento Faz vários cálculos para chegar ao resultado

Slide 8

Slide 8 text

Algoritmos decidem muita coisa na nossa vida atual

Slide 9

Slide 9 text

Quando você vai atravessar ou quando um carro vai passar Se você terá crédito e qual o seu score O valor que você vai pagar pelo plano de saúde O que aparece no seu buscador e nas suas redes sociais

Slide 10

Slide 10 text

Essas decisões algorítmicas podem ter viés racista

Slide 11

Slide 11 text

56% Da população brasileira é negra (IBGE, 2022) Esse é o tamanho do impacto de uma decisão feita com um viés racista no Brasil

Slide 12

Slide 12 text

No content

Slide 13

Slide 13 text

"Dispensers de sabonete são ativados quando a luz é refletida por uma superfície em seu caminho. Como a pele negra absorve mais luz (e reflete menos) eles podem falhar." Leslie Champman

Slide 14

Slide 14 text

Algoritmos de detecção de pedestres são até 7,5% mais preciso com pessoas de pele clara. Predictive Inequity in Object Detection, Cornell University, 2019

Slide 15

Slide 15 text

Google Photos, 2015

Slide 16

Slide 16 text

Facebook, 2020

Slide 17

Slide 17 text

Na maior parte dos casos, os bancos de dados usados para treinar estes algoritmos de reconhecimento são formados majoritariamente por imagens de pessoas da mesma raça.

Slide 18

Slide 18 text

80% das prisões injustas por reconhecimento facial aconteceram com pessoas negras Relatório Defensoria Pública do Rio de Janeiro - 2020

Slide 19

Slide 19 text

Mas por que esses algoritmos são racistas?

Slide 20

Slide 20 text

Tecnologia ainda é um ambiente majoritariamente branco

Slide 21

Slide 21 text

Trabalhadores de tecnologia no Brasil Relatório Quem Coda BR, PretaLAB (2019)

Slide 22

Slide 22 text

Trabalhadores de tecnologia no Brasil Relatório Quem Coda BR, PretaLAB (2019)

Slide 23

Slide 23 text

4,7% dos cargos de liderança são ocupados por pessoas negras nas 500 maiores empresas do Brasil (Instituto Ethos)

Slide 24

Slide 24 text

Tecnologia nunca é neutra

Slide 25

Slide 25 text

A tecnologia produzida em um ambiente racista carrega esse racismo dentro de si

Slide 26

Slide 26 text

O que fazer?

Slide 27

Slide 27 text

Mais pessoas negras em tecnologia e em cargos de liderança

Slide 28

Slide 28 text

Open Source para conhecer os algoritmos que afetam a nossa vida

Slide 29

Slide 29 text

Para um algoritmo racista eu posso ser um criminoso, um primata, alguém que não merece direitos e acessos

Slide 30

Slide 30 text

Mas a verdade é que eu sou o Ruan Filho da Nilza e do Márcio Irmão do Cleber e da Tati Tio do Miguel, Raul e Dandara Marido da Carol Programador Estudante Fã de basquete Uma pessoa como você

Slide 31

Slide 31 text

Se o racismo está na estrutura, é preciso mudar a estrutura. Obrigado