Upgrade to Pro — share decks privately, control downloads, hide ads and more …

Decolonização da Inteligência Artificial

B6e0ee98a08a3863043dc3edc5789029?s=47 Carla Vieira
October 08, 2020

Decolonização da Inteligência Artificial

Primeira apresentação do projeto durante a disciplina de ciberdemocracia da Pós Graduação dem Sistemas de Informação (USP).

Mais sobre o projeto: https://carlaprv.gitbook.io/ciberdemocracia/projeto-decolonizacao-da-inteligencia-artificial

B6e0ee98a08a3863043dc3edc5789029?s=128

Carla Vieira

October 08, 2020
Tweet

Transcript

  1. Decolonização da IA carlaprv@usp.br Carla Vieira

  2. ?

  3. None
  4. viés dados privacidade legislação ética

  5. ?

  6. O que é colonialismo?

  7. "Colonialidade trata sobre a continuidade de padrões de poder estabelecidos

    entre colonizador e colonizado e como esse poder molda nossa compreensão da cultura, trabalho e produção de conhecimento." (Assis, 2014) colonialidade
  8. Colonialidade do poder Controle de economia Controle de autoridade Controle

    da natureza e dos recursos naturais Controle do gênero e da sexualidade Controle da subjetividade e do conhecimento Quijano (2000)
  9. Decolonização

  10. Decolonização Decolonização Territorial Decolonização estrutural Mohamed, et al (2020) Descentralizadora

    Inclusiva Engajadora
  11. "Esta visão nos convida a examinar a prática científica para

    colocar as necessidades das populações marginalizadas no centro do processo de pesquisa e perguntar de onde vem o conhecimento - quem é incluído e deixado de fora, em cujo interesse está a ciência aplicada, quem é silenciado e quais suposições não reconhecidas podem estar em jogo". (McDowell e Chinchilla, 2016) decolonização engajadora
  12. Como meios digitais podem se tornar um território de colonização?

  13. Novo colonialismo não explora apenas riquezas naturais, explora nossos dados...

  14. Big Data Internet e big data

  15. Colonialismo de dados

  16. Couldry and Mejias (2019) trazem a colonialidade de poder para

    a era dos dados e como os dados pessoais se tornam commodities. colonialismo dos dados
  17. “Estamos em um momento histórico em que um modo de

    vida radicalmente diferente está sendo construído. E temos que prestar muita atenção a essas mudanças. E em um país como o Brasil, estamos vendo alguns dos efeitos colaterais dessa nova ordem”. Nick Couldry (Sociólogo)
  18. Colonialidade Algorítmica

  19. Usamos o termo colonialidade algorítmica para construir sobre o colonialismo

    de dados no contexto das interações de algoritmos entre as sociedades, que afetam o comportamento humano sócio-cultural e político e os sistemas discriminatórios existentes. colonialidade algorítmica
  20. Como a mentalidade colonial se manifesta na IA

  21. COMPAS Software e cálculo de reincidência: caso de racismo algorítmico

    (2016)
  22. Estudo Gender Shades (2018)

  23. Racismo algorítmico em modelos preditivos na saúde (2019)

  24. 90,5% das pessoas presas por Reconhecimento Facial são negras (2019)

  25. Desenvolvedor cria ferramenta que reforça racismo algorítmico (2020) https://altdeep.substack.com/p/two-things-you-might-have-missed

  26. O design social da tecnologia concebido a partir da colonialidade

    é racista. (Queiroz, 2013)
  27. A opressão algorítmica trata da subordinação injusta de um grupo

    social e o privilégio de outro - mantida por uma "rede complexa de restrições sociais" que vai desde normas sociais, leis, regras institucionais, preconceitos implícitos e estereótipos. opressão algorítmica
  28. "Os algoritmos não tornam as coisas justas, eles apenas automatizam

    o status quo". Cathy O'Neil (Cientista de Dados)
  29. Um dos principais argumentos do livro é que sofremos de

    "tecnochauvinismo" ou a crença de que mais “tecnologia” é sempre a solução. tecnochauvinismo
  30. Como decolonizar a IA?

  31. Um framework decolonial ajuda a conectar instâncias de opressão algorítmica

    a contextos sociopolíticos e culturais mais amplos, permitindo uma análise geográfica, histórica e interseccional ampla de riscos e oportunidades pertencentes a sistemas de IA e seus impactos na sociedade. Desenvolvimento técnico ciente do contexto 1
  32. Benjamin (2019) nos pede para reformular a solidariedade e reimaginar

    a justiça, repensando o design e desenvolvendo ferramentas abolicionistas que reimaginam a tecnologia. Desenvolvimento técnico ciente do contexto 1
  33. Decidir o que conta como conhecimento válido, o que é

    incluído em um conjunto de dados e o que é ignorado e não questionado, é uma forma de poder mantida pelos pesquisadores de IA que não pode ser deixada sem reconhecimento. Tutela Reverssa 2
  34. "A pesquisa em estudos pós-coloniais destaca cada vez mais o

    papel essencial que os próprios povos colonizados, por meio do ativismo e da organização, tiveram na mudança da visão colonial na metrópole" (Gopal, 2019; Gandhi, 2006). Tutela Reverssa 2
  35. Inteligência Artificial Explicável é área de pesquisa que busca explicar

    as predições dos modelos de inteligência artificial de forma inteligível para seres humanos e pessoas não-técnicas dessa área. Explicabilidade 3
  36. Projeto

  37. Questões de pesquisa 1. O que são os conceitos de

    colonização e decolonização? 2. Como esses conceitos podem ser aplicados na análise de desenvolvimento de tecnologias e Inteligência Artificial (ex.: Reconhecimento Facial)?
  38. Metodologia 1. Conceitualizar colonização e decolonização do IA 2. Realizar

    um levantamento de literatura com trabalhos que problematizam esta questão (IA, reconhecimento facial, segurança pública) no Brasil e no mundo. 3. Analisar estes trabalhos a partir deste referencial teórico, apresentando oportunidades de pesquisa
  39. Leituras iniciais • Mohamed, S., Png, M.-T., & Isaac, W.

    (2020). Decolonial AI: Decolonial Theory as Sociotechnical Foresight in Artificial Intelligence. Philosophy & Technology. doi:10.1007/s13347-020-00405-8 • Birhane A. & Guest O. Towards decolonising computational sciences. (2020). Disponível em: https://arxiv.org/abs/2009.14258 • Assis, W. F. T. (2014). Do colonialismo à colonialidade: expropriação territorial na periferia do capitalismo. Caderno CRH, 27(72), 613–627. doi:10.1590/s0103-49792014000300011 • Queiroz, P. Ivo. Fanon, O Reconhecimento o Negro e o Novo Humanismo: Horizontes Descoloniais Da Tecnologia. (2013). http://repositorio.utfpr.edu.br:8080/jspui/handle/1/492
  40. Metodologia 1. Conceitualizar colonização e decolonização do IA 2. Realizar

    um levantamento de literatura com trabalhos que problematizam esta questão (IA, reconhecimento facial, segurança pública) no Brasil e no mundo. 3. Analisar estes trabalhos a partir deste referencial teórico, apresentando oportunidades de pesquisa
  41. Próximas leituras • Reconhecimento Facial e Segurança Pública: Os Perigos

    do uso da Tecnologia no Sistema Penal Seletivo Brasileiro (2019) • Visão Computacional e Vieses Racializados: branquitude como padrão no aprendizado de máquina (2019) • Vigilância das forças de segurança através de câmeras de reconhecimento facial e o conflito com o direito à privacidade (2020) • Vigilância e segurança pública: preconceitos e segregação social ampliados pela suposta neutralidade digital (2020) • Utilização do reconhecimento Facial eletrônico por empresas para identificação de suspeitos (2020)
  42. Decolonização da IA carlaprv@usp.br Carla Vieira