Upgrade to Pro — share decks privately, control downloads, hide ads and more …

Decolonização da Inteligência Artificial

Carla Vieira
October 08, 2020

Decolonização da Inteligência Artificial

Primeira apresentação do projeto durante a disciplina de ciberdemocracia da Pós Graduação dem Sistemas de Informação (USP).

Mais sobre o projeto: https://carlaprv.gitbook.io/ciberdemocracia/projeto-decolonizacao-da-inteligencia-artificial

Carla Vieira

October 08, 2020
Tweet

More Decks by Carla Vieira

Other Decks in Research

Transcript

  1. ?

  2. ?

  3. "Colonialidade trata sobre a continuidade de padrões de poder estabelecidos

    entre colonizador e colonizado e como esse poder molda nossa compreensão da cultura, trabalho e produção de conhecimento." (Assis, 2014) colonialidade
  4. Colonialidade do poder Controle de economia Controle de autoridade Controle

    da natureza e dos recursos naturais Controle do gênero e da sexualidade Controle da subjetividade e do conhecimento Quijano (2000)
  5. "Esta visão nos convida a examinar a prática científica para

    colocar as necessidades das populações marginalizadas no centro do processo de pesquisa e perguntar de onde vem o conhecimento - quem é incluído e deixado de fora, em cujo interesse está a ciência aplicada, quem é silenciado e quais suposições não reconhecidas podem estar em jogo". (McDowell e Chinchilla, 2016) decolonização engajadora
  6. Couldry and Mejias (2019) trazem a colonialidade de poder para

    a era dos dados e como os dados pessoais se tornam commodities. colonialismo dos dados
  7. “Estamos em um momento histórico em que um modo de

    vida radicalmente diferente está sendo construído. E temos que prestar muita atenção a essas mudanças. E em um país como o Brasil, estamos vendo alguns dos efeitos colaterais dessa nova ordem”. Nick Couldry (Sociólogo)
  8. Usamos o termo colonialidade algorítmica para construir sobre o colonialismo

    de dados no contexto das interações de algoritmos entre as sociedades, que afetam o comportamento humano sócio-cultural e político e os sistemas discriminatórios existentes. colonialidade algorítmica
  9. A opressão algorítmica trata da subordinação injusta de um grupo

    social e o privilégio de outro - mantida por uma "rede complexa de restrições sociais" que vai desde normas sociais, leis, regras institucionais, preconceitos implícitos e estereótipos. opressão algorítmica
  10. "Os algoritmos não tornam as coisas justas, eles apenas automatizam

    o status quo". Cathy O'Neil (Cientista de Dados)
  11. Um dos principais argumentos do livro é que sofremos de

    "tecnochauvinismo" ou a crença de que mais “tecnologia” é sempre a solução. tecnochauvinismo
  12. Um framework decolonial ajuda a conectar instâncias de opressão algorítmica

    a contextos sociopolíticos e culturais mais amplos, permitindo uma análise geográfica, histórica e interseccional ampla de riscos e oportunidades pertencentes a sistemas de IA e seus impactos na sociedade. Desenvolvimento técnico ciente do contexto 1
  13. Benjamin (2019) nos pede para reformular a solidariedade e reimaginar

    a justiça, repensando o design e desenvolvendo ferramentas abolicionistas que reimaginam a tecnologia. Desenvolvimento técnico ciente do contexto 1
  14. Decidir o que conta como conhecimento válido, o que é

    incluído em um conjunto de dados e o que é ignorado e não questionado, é uma forma de poder mantida pelos pesquisadores de IA que não pode ser deixada sem reconhecimento. Tutela Reverssa 2
  15. "A pesquisa em estudos pós-coloniais destaca cada vez mais o

    papel essencial que os próprios povos colonizados, por meio do ativismo e da organização, tiveram na mudança da visão colonial na metrópole" (Gopal, 2019; Gandhi, 2006). Tutela Reverssa 2
  16. Inteligência Artificial Explicável é área de pesquisa que busca explicar

    as predições dos modelos de inteligência artificial de forma inteligível para seres humanos e pessoas não-técnicas dessa área. Explicabilidade 3
  17. Questões de pesquisa 1. O que são os conceitos de

    colonização e decolonização? 2. Como esses conceitos podem ser aplicados na análise de desenvolvimento de tecnologias e Inteligência Artificial (ex.: Reconhecimento Facial)?
  18. Metodologia 1. Conceitualizar colonização e decolonização do IA 2. Realizar

    um levantamento de literatura com trabalhos que problematizam esta questão (IA, reconhecimento facial, segurança pública) no Brasil e no mundo. 3. Analisar estes trabalhos a partir deste referencial teórico, apresentando oportunidades de pesquisa
  19. Leituras iniciais • Mohamed, S., Png, M.-T., & Isaac, W.

    (2020). Decolonial AI: Decolonial Theory as Sociotechnical Foresight in Artificial Intelligence. Philosophy & Technology. doi:10.1007/s13347-020-00405-8 • Birhane A. & Guest O. Towards decolonising computational sciences. (2020). Disponível em: https://arxiv.org/abs/2009.14258 • Assis, W. F. T. (2014). Do colonialismo à colonialidade: expropriação territorial na periferia do capitalismo. Caderno CRH, 27(72), 613–627. doi:10.1590/s0103-49792014000300011 • Queiroz, P. Ivo. Fanon, O Reconhecimento o Negro e o Novo Humanismo: Horizontes Descoloniais Da Tecnologia. (2013). http://repositorio.utfpr.edu.br:8080/jspui/handle/1/492
  20. Metodologia 1. Conceitualizar colonização e decolonização do IA 2. Realizar

    um levantamento de literatura com trabalhos que problematizam esta questão (IA, reconhecimento facial, segurança pública) no Brasil e no mundo. 3. Analisar estes trabalhos a partir deste referencial teórico, apresentando oportunidades de pesquisa
  21. Próximas leituras • Reconhecimento Facial e Segurança Pública: Os Perigos

    do uso da Tecnologia no Sistema Penal Seletivo Brasileiro (2019) • Visão Computacional e Vieses Racializados: branquitude como padrão no aprendizado de máquina (2019) • Vigilância das forças de segurança através de câmeras de reconhecimento facial e o conflito com o direito à privacidade (2020) • Vigilância e segurança pública: preconceitos e segregação social ampliados pela suposta neutralidade digital (2020) • Utilização do reconhecimento Facial eletrônico por empresas para identificação de suspeitos (2020)