"Colonialidade trata sobre a continuidade de padrões de poder estabelecidos entre colonizador e colonizado e como esse poder molda nossa compreensão da cultura, trabalho e produção de conhecimento." (Assis, 2014) colonialidade
Colonialidade do poder Controle de economia Controle de autoridade Controle da natureza e dos recursos naturais Controle do gênero e da sexualidade Controle da subjetividade e do conhecimento Quijano (2000)
"Esta visão nos convida a examinar a prática científica para colocar as necessidades das populações marginalizadas no centro do processo de pesquisa e perguntar de onde vem o conhecimento - quem é incluído e deixado de fora, em cujo interesse está a ciência aplicada, quem é silenciado e quais suposições não reconhecidas podem estar em jogo". (McDowell e Chinchilla, 2016) decolonização engajadora
“Estamos em um momento histórico em que um modo de vida radicalmente diferente está sendo construído. E temos que prestar muita atenção a essas mudanças. E em um país como o Brasil, estamos vendo alguns dos efeitos colaterais dessa nova ordem”. Nick Couldry (Sociólogo)
Usamos o termo colonialidade algorítmica para construir sobre o colonialismo de dados no contexto das interações de algoritmos entre as sociedades, que afetam o comportamento humano sócio-cultural e político e os sistemas discriminatórios existentes. colonialidade algorítmica
A opressão algorítmica trata da subordinação injusta de um grupo social e o privilégio de outro - mantida por uma "rede complexa de restrições sociais" que vai desde normas sociais, leis, regras institucionais, preconceitos implícitos e estereótipos. opressão algorítmica
Um framework decolonial ajuda a conectar instâncias de opressão algorítmica a contextos sociopolíticos e culturais mais amplos, permitindo uma análise geográfica, histórica e interseccional ampla de riscos e oportunidades pertencentes a sistemas de IA e seus impactos na sociedade. Desenvolvimento técnico ciente do contexto 1
Benjamin (2019) nos pede para reformular a solidariedade e reimaginar a justiça, repensando o design e desenvolvendo ferramentas abolicionistas que reimaginam a tecnologia. Desenvolvimento técnico ciente do contexto 1
Decidir o que conta como conhecimento válido, o que é incluído em um conjunto de dados e o que é ignorado e não questionado, é uma forma de poder mantida pelos pesquisadores de IA que não pode ser deixada sem reconhecimento. Tutela Reverssa 2
"A pesquisa em estudos pós-coloniais destaca cada vez mais o papel essencial que os próprios povos colonizados, por meio do ativismo e da organização, tiveram na mudança da visão colonial na metrópole" (Gopal, 2019; Gandhi, 2006). Tutela Reverssa 2
Inteligência Artificial Explicável é área de pesquisa que busca explicar as predições dos modelos de inteligência artificial de forma inteligível para seres humanos e pessoas não-técnicas dessa área. Explicabilidade 3
Questões de pesquisa 1. O que são os conceitos de colonização e decolonização? 2. Como esses conceitos podem ser aplicados na análise de desenvolvimento de tecnologias e Inteligência Artificial (ex.: Reconhecimento Facial)?
Metodologia 1. Conceitualizar colonização e decolonização do IA 2. Realizar um levantamento de literatura com trabalhos que problematizam esta questão (IA, reconhecimento facial, segurança pública) no Brasil e no mundo. 3. Analisar estes trabalhos a partir deste referencial teórico, apresentando oportunidades de pesquisa
Leituras iniciais ● Mohamed, S., Png, M.-T., & Isaac, W. (2020). Decolonial AI: Decolonial Theory as Sociotechnical Foresight in Artificial Intelligence. Philosophy & Technology. doi:10.1007/s13347-020-00405-8 ● Birhane A. & Guest O. Towards decolonising computational sciences. (2020). Disponível em: https://arxiv.org/abs/2009.14258 ● Assis, W. F. T. (2014). Do colonialismo à colonialidade: expropriação territorial na periferia do capitalismo. Caderno CRH, 27(72), 613–627. doi:10.1590/s0103-49792014000300011 ● Queiroz, P. Ivo. Fanon, O Reconhecimento o Negro e o Novo Humanismo: Horizontes Descoloniais Da Tecnologia. (2013). http://repositorio.utfpr.edu.br:8080/jspui/handle/1/492
Metodologia 1. Conceitualizar colonização e decolonização do IA 2. Realizar um levantamento de literatura com trabalhos que problematizam esta questão (IA, reconhecimento facial, segurança pública) no Brasil e no mundo. 3. Analisar estes trabalhos a partir deste referencial teórico, apresentando oportunidades de pesquisa
Próximas leituras ● Reconhecimento Facial e Segurança Pública: Os Perigos do uso da Tecnologia no Sistema Penal Seletivo Brasileiro (2019) ● Visão Computacional e Vieses Racializados: branquitude como padrão no aprendizado de máquina (2019) ● Vigilância das forças de segurança através de câmeras de reconhecimento facial e o conflito com o direito à privacidade (2020) ● Vigilância e segurança pública: preconceitos e segregação social ampliados pela suposta neutralidade digital (2020) ● Utilização do reconhecimento Facial eletrônico por empresas para identificação de suspeitos (2020)