A caixa preta da Inteligência Artificial

Os algoritmos de Inteligência Artificial trazem possibilidades de otimização do trabalho e personalização de experiência, mas também trazem riscos e desafios que precisam ser conhecidos e considerados antes de sua adoção. Os algoritmos que nos avaliam, deveriam sujeitar-se aos critérios de avaliação justa que buscamos. Mas isso não é bem o que acontece, seja porque consideramos que eles são mais precisos do que realmente são, seja porque permitimos que sigam nos julgando obscuramente. É fundamental questionar, assim, se é esse o objetivo que esperamos encontrar nas inovações. Devemos automatizar pela simples automação? Ou cabe aqui uma reflexão ética sobre injustiças algorítmicas?

Transcript

1. A caixa preta da
   Inteligência Artificial
   Carla Vieira
   @carlaprvieira
   Ilustração: Hanne Mostard
   GOIÁS
   

   View Slide

2. Developer, Speaker and Artificial Intelligence Evangelist
   @carlaprvieira
   Carla Vieira
   FORMAÇÃO ENSINO TRABALHO
   Graduanda de
   Sistemas de
   Informação pela USP
   Aluna Especial pela
   USP
   Mestrado (em breve)
   Professora de
   Desenvolvimento
   Web na Habits
   Professora de
   introdução a IA e
   ML
   Desenvolvedora
   Coordenadora
   Perifacode
   

   View Slide

3. View Slide

4. View Slide

5. View Slide

6. https://www.slideshare.net/DataStax/netflix-recommendations-using-spark-cassandra
   

   View Slide

7. View Slide

8. View Slide

9. View Slide

10. View Slide

11. View Slide

12. viés
    dados
    privacidade legislação
    ética
    

    View Slide

13. View Slide

14. Precisamos falar menos sobre o hype da
    Inteligência Artificial…
    … e mais sobre como estamos usando a
    tecnologia.
    

    View Slide

15. Google Photos
    (2015)
    

    View Slide

16. Google Photos
    (2015)
    

    View Slide

17. Twitter
    (2017)
    

    View Slide

18. Como estou
    combatendo o viés
    algorítmico
    TED
    (2018)
    Joy Buolamwini
    

    View Slide

19. Estudo Gender
    Shades
    (2018)
    

    View Slide

20. Estudo Gender
    Shades
    (2018)
    http://proceedings.mlr.press/v81/buolamwini18a/buolamwini18a.pdf
    

    View Slide

21. “Qualquer tecnologia que criamos reflete tanto
    nossas aspirações quanto nossas limitações. Se
    formos limitados na hora de pensar em inclusão, isso
    vai ser refletido e incorporado na tecnologia que
    criamos”.
    Joy Buolamwini
    

    View Slide

22. Google
    Detecção de
    discurso de ódio
    (2019)
    

    View Slide

23. • 46% de falsos positivos para
    afro-americanos
    • 1.5 mais chances das
    postagens serem rotuladas
    como ofensivas
    https://homes.cs.washington.edu/~msap/pdfs/sap2019risk.pdf
    

    View Slide

24. COMPAS
    Software
    (2016)
    

    View Slide

25. COMPAS
    Software
    (2016)
    Algoritmos não conseguem fazer
    análises subjetivas
    O que determina se um algoritmo é
    justo quando o que está em jogo é
    uma sentença criminal?
    

    View Slide

26. COMPAS
    Software
    (2016)
    Algoritmos não conseguem fazer
    análises subjetivas
    O que determina se um algoritmo é
    justo quando o que está em jogo é
    uma sentença criminal?
    

    View Slide

27. JUSTIÇA MATEMÁTICA
    

    View Slide

28. Preconceito humano Tecnologia
    Como remover o viés?
    

    View Slide

29. Quem está desenvolvendo Inteligência Artificial?
    “Only 22% of AI professionals globally are female,
    compared to 78% who are male.”
    (The Global Gender Gap Report 2018 - p.28)
    

    View Slide

30. Preconceito humano Tecnologia
    DIVERSIDADE
    

    View Slide

31. A inteligência artificial precisa
    aprender com o mundo real.
    Não basta criar um computador
    inteligente, é preciso ensinar a ele
    as coisas certas.
    https://about.google/stories/gender-balance-diversity-important-to-
    machine-learning/?hl=pt-BR
    

    View Slide

32. https://www.research.ibm.com/artificial-intelligence/trusted-ai/diversity-in-faces/
    

    View Slide

33. Estes casos ilustram um problema maior: os
    algoritmos de I.A. são uma caixa-preta, opaca
    e cheia de segredos.
    

    View Slide

34. View Slide

35. View Slide

36. View Slide

37. CAIXA PRETA
    INPUT OUTPUT
    

    View Slide

38. CAIXA PRETA
    INPUT OUTPUT
    

    View Slide

39. viés
    dados
    privacidade legislação
    ética
    Por que abrir a caixa preta?
    

    View Slide

40. França
    (2019)
    

    View Slide

41. "Esse tipo de lei é uma desgraça para uma democracia. A Justiça
    é usada em nome do povo, tentar esconder informações de
    agentes da lei ou de cidadãos nunca será a coisa certa a fazer.”
    Louis Larret Chahine
    Co-fondateur de PREDICTICE
    

    View Slide

42. Estados Unidos
    (2019)
    

    View Slide

43. Brasil
    (2019)
    

    View Slide

44. “ (...) diferentemente do que foi apontado, não realiza
    reconhecimento facial, mas, sim, detecção facial, por meio do
    qual estima apenas o gênero, a faixa etária e o humor dos
    consumidores, de forma anônima".
    Gerente de Marca
    Hering
    

    View Slide

45. Como abrir a caixa preta?
    TRANSPARÊNCIA
    EXPLICABILIDADE
    Entender a lógica por trás de
    cada decisão
    CONFIANÇA
    

    View Slide

46. explicabilidade
    Refere-se à capacidade do sistema de explicar porque
    chegou a determinado resultado em linguagem
    compreensível para um ser humano.
    

    View Slide

47. Dados
    explicáveis
    Predições
    explicáveis
    Algoritmos
    explicáveis
    Quais os dados
    utilizados para treinar
    o modelo e por quê?
    Quais as
    características e pesos
    utilizados para essa
    predição?
    Quais são as camadas e
    processos internos
    desse algoritmo?
    

    View Slide

48. View Slide

49. View Slide

50. As soluções de Inteligência Artificial
    não são e não serão infalíveis.
    Mas, a explicabilidade pode ajudar...
    

    View Slide

51. “O sucesso na criação da IA será o maior
    acontecimento na história da humanidade.
    Infelizmente, também poderá ser o último, a menos
    que aprendamos como evitar os riscos.”
    Stephen Hawking
    

    View Slide

52. View Slide

53. View Slide

54. View Slide

55. View Slide

56. View Slide

57. http://www.portaltransparencia.gov.br/download-de-dados
    

    View Slide

58. Acessibilidade de
    dados
    Explicabilidade dos
    algoritmos
    Diversidade nos
    talentos
    Desafios
    

    View Slide

59. https://brasil.io/home
    https://serenata.ai/
    https://colaboradados.github.io/
    

    View Slide

60. Se a tecnologia quiser ajudar na
    construção de uma sociedade mais justa,
    ela tem que ser aberta e transparente.
    

    View Slide

61. Antes de falar sobre futuro...
    ... precisamos falar sobre o que está
    acontecendo hoje, agora.
    

    View Slide

62. Obrigada!
    Carla Vieira
    @carlaprvieira
    carlaprv@hotmail.com
    bit.ly/goias-carla
    

    View Slide

63. Referências
    − Relatórios do AI NOW
    − Racial and Gender viés in Amazon Rekognition
    − Diversity in faces (IBM)
    − Google video – Machine Learning and Human viés
    − Visão Computacional e Vieses Racializados
    − Estudo Machine viés on Compas
    − Machine Learning Explainability Kaggle
    − Predictive modeling: striking a balance between accuracy and interpretability
    

    View Slide

64. Referências
    −Racismo Algorítmico em Plataformas Digitais: microagressões e
    discriminação em código
    −Metrics for Explainable AI: Challenges and Prospects
    −The Mythos of Model Interpretability
    −Towards Robust Interpretability with Self-Explaining Neural
    Networks
    −The How of Explainable AI: Post-modelling Explainability
    

    View Slide