Upgrade to Pro — share decks privately, control downloads, hide ads and more …

Decolonização da Inteligência Artificial

Carla Vieira
October 08, 2020

Decolonização da Inteligência Artificial

Primeira apresentação do projeto durante a disciplina de ciberdemocracia da Pós Graduação dem Sistemas de Informação (USP).

Mais sobre o projeto: https://carlaprv.gitbook.io/ciberdemocracia/projeto-decolonizacao-da-inteligencia-artificial

Carla Vieira

October 08, 2020
Tweet

More Decks by Carla Vieira

Other Decks in Research

Transcript

  1. Decolonização da IA
    [email protected]
    Carla Vieira

    View Slide

  2. ?

    View Slide

  3. View Slide

  4. viés
    dados
    privacidade legislação
    ética

    View Slide

  5. ?

    View Slide

  6. O que é colonialismo?

    View Slide

  7. "Colonialidade trata sobre a continuidade de padrões de
    poder estabelecidos entre colonizador e colonizado e como
    esse poder molda nossa compreensão da cultura, trabalho e
    produção de conhecimento." (Assis, 2014)
    colonialidade

    View Slide

  8. Colonialidade do poder
    Controle de economia
    Controle de autoridade
    Controle da natureza e dos recursos naturais
    Controle do gênero e da sexualidade
    Controle da subjetividade e do conhecimento
    Quijano (2000)

    View Slide

  9. Decolonização

    View Slide

  10. Decolonização
    Decolonização Territorial
    Decolonização estrutural
    Mohamed, et al (2020)
    Descentralizadora
    Inclusiva
    Engajadora

    View Slide

  11. "Esta visão nos convida a examinar a prática científica para
    colocar as necessidades das populações marginalizadas no
    centro do processo de pesquisa e perguntar de onde vem o
    conhecimento - quem é incluído e deixado de fora, em cujo
    interesse está a ciência aplicada, quem é silenciado e quais
    suposições não reconhecidas podem estar em jogo".
    (McDowell e Chinchilla, 2016)
    decolonização engajadora

    View Slide

  12. Como meios digitais podem se tornar um
    território de colonização?

    View Slide

  13. Novo colonialismo não explora apenas riquezas
    naturais, explora nossos dados...

    View Slide

  14. Big Data
    Internet e big data

    View Slide

  15. Colonialismo de dados

    View Slide

  16. Couldry and Mejias (2019) trazem a colonialidade de poder
    para a era dos dados e como os dados pessoais se tornam
    commodities.
    colonialismo dos dados

    View Slide

  17. “Estamos em um momento histórico em que um modo de vida
    radicalmente diferente está sendo construído. E temos que prestar muita
    atenção a essas mudanças. E em um país como o Brasil, estamos vendo
    alguns dos efeitos colaterais dessa nova ordem”.
    Nick Couldry (Sociólogo)

    View Slide

  18. Colonialidade Algorítmica

    View Slide

  19. Usamos o termo colonialidade algorítmica para construir
    sobre o colonialismo de dados no contexto das interações de
    algoritmos entre as sociedades, que afetam o comportamento
    humano sócio-cultural e político e os sistemas
    discriminatórios existentes.
    colonialidade algorítmica

    View Slide

  20. Como a mentalidade colonial se
    manifesta na IA

    View Slide

  21. COMPAS Software e
    cálculo de
    reincidência: caso de
    racismo algorítmico
    (2016)

    View Slide

  22. Estudo Gender Shades
    (2018)

    View Slide

  23. Racismo algorítmico
    em modelos preditivos
    na saúde
    (2019)

    View Slide

  24. 90,5% das pessoas
    presas por
    Reconhecimento Facial
    são negras
    (2019)

    View Slide

  25. Desenvolvedor cria
    ferramenta que reforça
    racismo algorítmico
    (2020)
    https://altdeep.substack.com/p/two-things-you-might-have-missed

    View Slide

  26. O design social da tecnologia concebido a partir da
    colonialidade é racista.
    (Queiroz, 2013)

    View Slide

  27. A opressão algorítmica trata da
    subordinação injusta de um grupo social e
    o privilégio de outro - mantida por uma
    "rede complexa de restrições sociais" que
    vai desde normas sociais, leis, regras
    institucionais, preconceitos implícitos e
    estereótipos.
    opressão algorítmica

    View Slide

  28. "Os algoritmos não tornam as coisas justas, eles apenas
    automatizam o status quo".
    Cathy O'Neil (Cientista de Dados)

    View Slide

  29. Um dos principais argumentos do livro é que
    sofremos de "tecnochauvinismo" ou a crença de
    que mais “tecnologia” é sempre a solução.
    tecnochauvinismo

    View Slide

  30. Como decolonizar a IA?

    View Slide

  31. Um framework decolonial ajuda a conectar instâncias de
    opressão algorítmica a contextos sociopolíticos e culturais
    mais amplos, permitindo uma análise geográfica, histórica e
    interseccional ampla de riscos e oportunidades pertencentes a
    sistemas de IA e seus impactos na sociedade.
    Desenvolvimento técnico ciente do
    contexto
    1

    View Slide

  32. Benjamin (2019) nos pede para reformular a
    solidariedade e reimaginar a justiça, repensando o design
    e desenvolvendo ferramentas abolicionistas que
    reimaginam a tecnologia.
    Desenvolvimento técnico ciente do
    contexto
    1

    View Slide

  33. Decidir o que conta como conhecimento válido, o que é
    incluído em um conjunto de dados e o que é ignorado e não
    questionado, é uma forma de poder mantida pelos
    pesquisadores de IA que não pode ser deixada sem
    reconhecimento.
    Tutela Reverssa
    2

    View Slide

  34. "A pesquisa em estudos pós-coloniais destaca cada vez
    mais o papel essencial que os próprios povos colonizados,
    por meio do ativismo e da organização, tiveram na
    mudança da visão colonial na metrópole"
    (Gopal, 2019; Gandhi, 2006).
    Tutela Reverssa
    2

    View Slide

  35. Inteligência Artificial Explicável é área de pesquisa que
    busca explicar as predições dos modelos de inteligência
    artificial de forma inteligível para seres humanos e pessoas
    não-técnicas dessa área.
    Explicabilidade
    3

    View Slide

  36. Projeto

    View Slide

  37. Questões de pesquisa
    1. O que são os conceitos de colonização e decolonização?
    2. Como esses conceitos podem ser aplicados na análise de
    desenvolvimento de tecnologias e Inteligência Artificial (ex.:
    Reconhecimento Facial)?

    View Slide

  38. Metodologia
    1. Conceitualizar colonização e decolonização do IA
    2. Realizar um levantamento de literatura com trabalhos que
    problematizam esta questão (IA, reconhecimento facial, segurança
    pública) no Brasil e no mundo.
    3. Analisar estes trabalhos a partir deste referencial teórico,
    apresentando oportunidades de pesquisa

    View Slide

  39. Leituras iniciais
    ● Mohamed, S., Png, M.-T., & Isaac, W. (2020). Decolonial AI: Decolonial Theory as Sociotechnical
    Foresight in Artificial Intelligence. Philosophy & Technology. doi:10.1007/s13347-020-00405-8
    ● Birhane A. & Guest O. Towards decolonising computational sciences. (2020). Disponível em:
    https://arxiv.org/abs/2009.14258
    ● Assis, W. F. T. (2014). Do colonialismo à colonialidade: expropriação territorial na periferia do
    capitalismo. Caderno CRH, 27(72), 613–627. doi:10.1590/s0103-49792014000300011
    ● Queiroz, P. Ivo. Fanon, O Reconhecimento o Negro e o Novo Humanismo: Horizontes
    Descoloniais Da Tecnologia. (2013). http://repositorio.utfpr.edu.br:8080/jspui/handle/1/492

    View Slide

  40. Metodologia
    1. Conceitualizar colonização e decolonização do IA
    2. Realizar um levantamento de literatura com trabalhos que
    problematizam esta questão (IA, reconhecimento facial,
    segurança pública) no Brasil e no mundo.
    3. Analisar estes trabalhos a partir deste referencial teórico,
    apresentando oportunidades de pesquisa

    View Slide

  41. Próximas leituras
    ● Reconhecimento Facial e Segurança Pública: Os Perigos do uso da Tecnologia no Sistema Penal
    Seletivo Brasileiro (2019)
    ● Visão Computacional e Vieses Racializados: branquitude como padrão no aprendizado de
    máquina (2019)
    ● Vigilância das forças de segurança através de câmeras de reconhecimento facial e o conflito
    com o direito à privacidade (2020)
    ● Vigilância e segurança pública: preconceitos e segregação social ampliados pela suposta
    neutralidade digital (2020)
    ● Utilização do reconhecimento Facial eletrônico por empresas para identificação de suspeitos
    (2020)

    View Slide

  42. Decolonização da IA
    [email protected]
    Carla Vieira

    View Slide