Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Algoritmos Racistas
Search
Ruan Brandão
May 24, 2024
Technology
0
66
Algoritmos Racistas
Ruan Brandão
May 24, 2024
Tweet
Share
More Decks by Ruan Brandão
See All by Ruan Brandão
Desenvolvimento de jogos com Elixir
ruanbrandao
0
24
Software Ethics
ruanbrandao
2
310
Narrativas no Desenvolvimento de Software
ruanbrandao
0
190
Web Vulnerabilities: A Field Guide
ruanbrandao
0
100
Ética no Desenvolvimento de Software
ruanbrandao
4
850
Aplicando o Método Científico no Desenvolvimento de Software
ruanbrandao
2
230
Internet Personalizada
ruanbrandao
0
46
Other Decks in Technology
See All in Technology
Nekko Cloud、 これまでとこれから ~学生サークルが作る、 小さなクラウド
logica0419
2
880
運用しているアプリケーションのDBのリプレイスをやってみた
miura55
1
490
開発組織のための セキュアコーディング研修の始め方
flatt_security
3
1.4k
Building Products in the LLM Era
ymatsuwitter
10
5k
飲食店予約台帳を支えるインタラクティブ UI 設計と実装
siropaca
7
1.6k
CZII - CryoET Object Identification 参加振り返り・解法共有
tattaka
0
310
モノレポ開発のエラー、誰が見る?Datadog で実現する適切なトリアージとエスカレーション
biwashi
6
790
2024.02.19 W&B AIエージェントLT会 / AIエージェントが業務を代行するための計画と実行 / Algomatic 宮脇
smiyawaki0820
10
1.5k
エンジニアのためのドキュメント力基礎講座〜構造化思考から始めよう〜(2025/02/15jbug広島#15発表資料)
yasuoyasuo
16
6.3k
スタートアップ1人目QAエンジニアが QAチームを立ち上げ、“個”からチーム、 そして“組織”に成長するまで / How to set up QA team at reiwatravel
mii3king
2
1.3k
なぜ私は自分が使わないサービスを作るのか? / Why would I create a service that I would not use?
aiandrox
0
510
SA Night #2 FinatextのSA思想/SA Night #2 Finatext session
satoshiimai
1
130
Featured
See All Featured
The Illustrated Children's Guide to Kubernetes
chrisshort
48
49k
Fight the Zombie Pattern Library - RWD Summit 2016
marcelosomers
233
17k
Practical Tips for Bootstrapping Information Extraction Pipelines
honnibal
PRO
12
960
Facilitating Awesome Meetings
lara
51
6.2k
Unsuck your backbone
ammeep
669
57k
ReactJS: Keep Simple. Everything can be a component!
pedronauck
666
120k
Thoughts on Productivity
jonyablonski
69
4.5k
A Tale of Four Properties
chriscoyier
158
23k
GraphQLの誤解/rethinking-graphql
sonatard
68
10k
The Cult of Friendly URLs
andyhume
78
6.2k
Rails Girls Zürich Keynote
gr2m
94
13k
Stop Working from a Prison Cell
hatefulcrawdad
267
20k
Transcript
Algoritmos Racistas O que fazer? Ruan Brandão
RUAN BRANDÃO Engenheiro de Software Palestrante Estudante de Filosofia e
sua relação com a tecnologia
ALGORITMOS
"Um conjunto de regras ou instruções matemáticas que, especialmente se
dadas a um computador, ajudarão a calcular a resposta para um problema" Dicionário Cambridge
Pode ser simples "Checar se um número é par" Dado
número N Divida N por 2 e pegue o resto da divisão Se o resto for = 0 Se o resto for ≠ 0 O número é par O número não é par
Pode ser complexo "Prever como vai estar o tempo daqui
alguns dias"
Leva em consideração dezenas de variáveis como: Imagens de satélite
Medição de rios e lagos Temperatura atual Velocidade e direção do vento Faz vários cálculos para chegar ao resultado
Algoritmos decidem muita coisa na nossa vida atual
Quando você vai atravessar ou quando um carro vai passar
Se você terá crédito e qual o seu score O valor que você vai pagar pelo plano de saúde O que aparece no seu buscador e nas suas redes sociais
Essas decisões algorítmicas podem ter viés racista
56% Da população brasileira é negra (IBGE, 2022) Esse é
o tamanho do impacto de uma decisão feita com um viés racista no Brasil
None
"Dispensers de sabonete são ativados quando a luz é refletida
por uma superfície em seu caminho. Como a pele negra absorve mais luz (e reflete menos) eles podem falhar." Leslie Champman
Algoritmos de detecção de pedestres são até 7,5% mais preciso
com pessoas de pele clara. Predictive Inequity in Object Detection, Cornell University, 2019
Google Photos, 2015
Facebook, 2020
Na maior parte dos casos, os bancos de dados usados
para treinar estes algoritmos de reconhecimento são formados majoritariamente por imagens de pessoas da mesma raça.
80% das prisões injustas por reconhecimento facial aconteceram com pessoas
negras Relatório Defensoria Pública do Rio de Janeiro - 2020
Mas por que esses algoritmos são racistas?
Tecnologia ainda é um ambiente majoritariamente branco
Trabalhadores de tecnologia no Brasil Relatório Quem Coda BR, PretaLAB
(2019)
Trabalhadores de tecnologia no Brasil Relatório Quem Coda BR, PretaLAB
(2019)
4,7% dos cargos de liderança são ocupados por pessoas negras
nas 500 maiores empresas do Brasil (Instituto Ethos)
Tecnologia nunca é neutra
A tecnologia produzida em um ambiente racista carrega esse racismo
dentro de si
O que fazer?
Mais pessoas negras em tecnologia e em cargos de liderança
Open Source para conhecer os algoritmos que afetam a nossa
vida
Para um algoritmo racista eu posso ser um criminoso, um
primata, alguém que não merece direitos e acessos
Mas a verdade é que eu sou o Ruan Filho
da Nilza e do Márcio Irmão do Cleber e da Tati Tio do Miguel, Raul e Dandara Marido da Carol Programador Estudante Fã de basquete Uma pessoa como você
Se o racismo está na estrutura, é preciso mudar a
estrutura. Obrigado