Viés Algorítmico

Viés Algorítmico

Slides da lightning talk feita no Data Science Meetup em Florianópolis. Os slides foram feitos durante o próprio evento.

F6d5a605df582ab9ea419ebef9f400b7?s=128

Caio Carrara

August 14, 2019
Tweet

Transcript

  1. 2.

    14/08/19 20:24:45 2 Caio Carrara • Paulista • Desenvolvedor de

    software • Pythonista • Líder Técnico na Loadsmart • Conhecendo as comunidades de Floripa!
  2. 3.

    14/08/19 20:24:45 3 Ciência de Dados • Ciência de dados

    alia big data e machine learning, além de técnicas de outras áreas interdisciplinares como estatística, economia, engenharia e outros subcampos da computação
  3. 4.

    14/08/19 20:24:45 4 Aprendizagem de Máquina • Campo de estudo

    que dá aos computadores a habilidade de aprender sem serem explicitamente programados • O aprendizado automático explora o estudo e construção de algoritmos que podem aprender de seus erros e fazer previsões sobre dados
  4. 5.

    14/08/19 20:24:45 5 Viés algorítmico • Ato de algoritmos tomarem

    atitudes discriminatórias ou exclusórias em relação a seres humanos • Estas atitudes podem ser desde simples erros em detecções faciais, até a condenação de um indivíduo por algoritmos jurídicos baseado em suas características raciais
  5. 6.

    14/08/19 20:24:45 6 Viés Real • Problemas de reconhecimento facial

    em câmeras digitais • Sugestões de anúncios racistas • Análise de currículos discriminatória • Reconhecimento de voz que só reconheciam vozes masculinas – Assistentes pessoais* • Concessão de empréstimos que tinham preferência por clientes homens
  6. 7.

    14/08/19 20:24:45 7 Causas do viés algorítmico • Falhas no

    processo do desenvolvimento de software • Falhas de implementação • Aprendizagem a partir do passado – O que é certo – O que é errado • Bagagem intelectual e cultural de quem produz software
  7. 8.

    14/08/19 20:24:45 8 Código Fechado • Como o código destes

    softwares não está disponível para análise, justamente por ser um software proprietário, os técnicos e cientistas de universidades e centros de pesquisa que lutam contra o viés algorítmico não conseguem analisar as linhas de código destes programas de computador
  8. 9.

    14/08/19 20:24:45 9 Quem escreve? • Desenvolvedoras e desenvolvedores de

    software • Cientistas de Dados • Especialistas de AI e Big Data