Algoritmos Racistas

Transcript

1. Algoritmos Racistas O que fazer? Ruan Brandão
2. RUAN BRANDÃO Engenheiro de Software Palestrante Estudante de Filosofia e sua relação com a tecnologia
3. ALGORITMOS
4. "Um conjunto de regras ou instruções matemáticas que, especialmente se dadas a um computador, ajudarão a calcular a resposta para um problema" Dicionário Cambridge
5. Pode ser simples "Checar se um número é par" Dado número N Divida N por 2 e pegue o resto da divisão Se o resto for = 0 Se o resto for ≠ 0 O número é par O número não é par
6. Pode ser complexo "Prever como vai estar o tempo daqui alguns dias"
7. Leva em consideração dezenas de variáveis como: Imagens de satélite Medição de rios e lagos Temperatura atual Velocidade e direção do vento Faz vários cálculos para chegar ao resultado
8. Algoritmos decidem muita coisa na nossa vida atual
9. Quando você vai atravessar ou quando um carro vai passar Se você terá crédito e qual o seu score O valor que você vai pagar pelo plano de saúde O que aparece no seu buscador e nas suas redes sociais
10. Essas decisões algorítmicas podem ter viés racista
11. 56% Da população brasileira é negra (IBGE, 2022) Esse é o tamanho do impacto de uma decisão feita com um viés racista no Brasil
13. "Dispensers de sabonete são ativados quando a luz é refletida por uma superfície em seu caminho. Como a pele negra absorve mais luz (e reflete menos) eles podem falhar." Leslie Champman
14. Algoritmos de detecção de pedestres são até 7,5% mais preciso com pessoas de pele clara. Predictive Inequity in Object Detection, Cornell University, 2019
15. Google Photos, 2015
16. Facebook, 2020
17. Na maior parte dos casos, os bancos de dados usados para treinar estes algoritmos de reconhecimento são formados majoritariamente por imagens de pessoas da mesma raça.
18. 80% das prisões injustas por reconhecimento facial aconteceram com pessoas negras Relatório Defensoria Pública do Rio de Janeiro - 2020
19. Mas por que esses algoritmos são racistas?
20. Tecnologia ainda é um ambiente majoritariamente branco
21. Trabalhadores de tecnologia no Brasil Relatório Quem Coda BR, PretaLAB (2019)
22. Trabalhadores de tecnologia no Brasil Relatório Quem Coda BR, PretaLAB (2019)
23. 4,7% dos cargos de liderança são ocupados por pessoas negras nas 500 maiores empresas do Brasil (Instituto Ethos)
24. Tecnologia nunca é neutra
25. A tecnologia produzida em um ambiente racista carrega esse racismo dentro de si
26. O que fazer?
27. Mais pessoas negras em tecnologia e em cargos de liderança
28. Open Source para conhecer os algoritmos que afetam a nossa vida
29. Para um algoritmo racista eu posso ser um criminoso, um primata, alguém que não merece direitos e acessos
30. Mas a verdade é que eu sou o Ruan Filho da Nilza e do Márcio Irmão do Cleber e da Tati Tio do Miguel, Raul e Dandara Marido da Carol Programador Estudante Fã de basquete Uma pessoa como você
31. Se o racismo está na estrutura, é preciso mudar a estrutura. Obrigado