Decolonização da Inteligência Artificial

Primeira apresentação do projeto durante a disciplina de ciberdemocracia da Pós Graduação dem Sistemas de Informação (USP).

Mais sobre o projeto: https://carlaprv.gitbook.io/ciberdemocracia/projeto-decolonizacao-da-inteligencia-artificial

Transcript

1. Decolonização da IA carlaprv@usp.br Carla Vieira
2. ?
4. viés dados privacidade legislação ética
5. ?
6. O que é colonialismo?
7. "Colonialidade trata sobre a continuidade de padrões de poder estabelecidos entre colonizador e colonizado e como esse poder molda nossa compreensão da cultura, trabalho e produção de conhecimento." (Assis, 2014) colonialidade
8. Colonialidade do poder Controle de economia Controle de autoridade Controle da natureza e dos recursos naturais Controle do gênero e da sexualidade Controle da subjetividade e do conhecimento Quijano (2000)
9. Decolonização
10. Decolonização Decolonização Territorial Decolonização estrutural Mohamed, et al (2020) Descentralizadora Inclusiva Engajadora
11. "Esta visão nos convida a examinar a prática científica para colocar as necessidades das populações marginalizadas no centro do processo de pesquisa e perguntar de onde vem o conhecimento - quem é incluído e deixado de fora, em cujo interesse está a ciência aplicada, quem é silenciado e quais suposições não reconhecidas podem estar em jogo". (McDowell e Chinchilla, 2016) decolonização engajadora
12. Como meios digitais podem se tornar um território de colonização?
13. Novo colonialismo não explora apenas riquezas naturais, explora nossos dados...
14. Big Data Internet e big data
15. Colonialismo de dados
16. Couldry and Mejias (2019) trazem a colonialidade de poder para a era dos dados e como os dados pessoais se tornam commodities. colonialismo dos dados
17. “Estamos em um momento histórico em que um modo de vida radicalmente diferente está sendo construído. E temos que prestar muita atenção a essas mudanças. E em um país como o Brasil, estamos vendo alguns dos efeitos colaterais dessa nova ordem”. Nick Couldry (Sociólogo)
18. Colonialidade Algorítmica
19. Usamos o termo colonialidade algorítmica para construir sobre o colonialismo de dados no contexto das interações de algoritmos entre as sociedades, que afetam o comportamento humano sócio-cultural e político e os sistemas discriminatórios existentes. colonialidade algorítmica
20. Como a mentalidade colonial se manifesta na IA
21. COMPAS Software e cálculo de reincidência: caso de racismo algorítmico (2016)
22. Estudo Gender Shades (2018)
23. Racismo algorítmico em modelos preditivos na saúde (2019)
24. 90,5% das pessoas presas por Reconhecimento Facial são negras (2019)
25. Desenvolvedor cria ferramenta que reforça racismo algorítmico (2020) https://altdeep.substack.com/p/two-things-you-might-have-missed
26. O design social da tecnologia concebido a partir da colonialidade é racista. (Queiroz, 2013)
27. A opressão algorítmica trata da subordinação injusta de um grupo social e o privilégio de outro - mantida por uma "rede complexa de restrições sociais" que vai desde normas sociais, leis, regras institucionais, preconceitos implícitos e estereótipos. opressão algorítmica
28. "Os algoritmos não tornam as coisas justas, eles apenas automatizam o status quo". Cathy O'Neil (Cientista de Dados)
29. Um dos principais argumentos do livro é que sofremos de "tecnochauvinismo" ou a crença de que mais “tecnologia” é sempre a solução. tecnochauvinismo
30. Como decolonizar a IA?
31. Um framework decolonial ajuda a conectar instâncias de opressão algorítmica a contextos sociopolíticos e culturais mais amplos, permitindo uma análise geográfica, histórica e interseccional ampla de riscos e oportunidades pertencentes a sistemas de IA e seus impactos na sociedade. Desenvolvimento técnico ciente do contexto 1
32. Benjamin (2019) nos pede para reformular a solidariedade e reimaginar a justiça, repensando o design e desenvolvendo ferramentas abolicionistas que reimaginam a tecnologia. Desenvolvimento técnico ciente do contexto 1
33. Decidir o que conta como conhecimento válido, o que é incluído em um conjunto de dados e o que é ignorado e não questionado, é uma forma de poder mantida pelos pesquisadores de IA que não pode ser deixada sem reconhecimento. Tutela Reverssa 2
34. "A pesquisa em estudos pós-coloniais destaca cada vez mais o papel essencial que os próprios povos colonizados, por meio do ativismo e da organização, tiveram na mudança da visão colonial na metrópole" (Gopal, 2019; Gandhi, 2006). Tutela Reverssa 2
35. Inteligência Artificial Explicável é área de pesquisa que busca explicar as predições dos modelos de inteligência artificial de forma inteligível para seres humanos e pessoas não-técnicas dessa área. Explicabilidade 3
36. Projeto
37. Questões de pesquisa 1. O que são os conceitos de colonização e decolonização? 2. Como esses conceitos podem ser aplicados na análise de desenvolvimento de tecnologias e Inteligência Artificial (ex.: Reconhecimento Facial)?
38. Metodologia 1. Conceitualizar colonização e decolonização do IA 2. Realizar um levantamento de literatura com trabalhos que problematizam esta questão (IA, reconhecimento facial, segurança pública) no Brasil e no mundo. 3. Analisar estes trabalhos a partir deste referencial teórico, apresentando oportunidades de pesquisa
39. Leituras iniciais • Mohamed, S., Png, M.-T., & Isaac, W. (2020). Decolonial AI: Decolonial Theory as Sociotechnical Foresight in Artificial Intelligence. Philosophy & Technology. doi:10.1007/s13347-020-00405-8 • Birhane A. & Guest O. Towards decolonising computational sciences. (2020). Disponível em: https://arxiv.org/abs/2009.14258 • Assis, W. F. T. (2014). Do colonialismo à colonialidade: expropriação territorial na periferia do capitalismo. Caderno CRH, 27(72), 613–627. doi:10.1590/s0103-49792014000300011 • Queiroz, P. Ivo. Fanon, O Reconhecimento o Negro e o Novo Humanismo: Horizontes Descoloniais Da Tecnologia. (2013). http://repositorio.utfpr.edu.br:8080/jspui/handle/1/492
40. Metodologia 1. Conceitualizar colonização e decolonização do IA 2. Realizar um levantamento de literatura com trabalhos que problematizam esta questão (IA, reconhecimento facial, segurança pública) no Brasil e no mundo. 3. Analisar estes trabalhos a partir deste referencial teórico, apresentando oportunidades de pesquisa
41. Próximas leituras • Reconhecimento Facial e Segurança Pública: Os Perigos do uso da Tecnologia no Sistema Penal Seletivo Brasileiro (2019) • Visão Computacional e Vieses Racializados: branquitude como padrão no aprendizado de máquina (2019) • Vigilância das forças de segurança através de câmeras de reconhecimento facial e o conflito com o direito à privacidade (2020) • Vigilância e segurança pública: preconceitos e segregação social ampliados pela suposta neutralidade digital (2020) • Utilização do reconhecimento Facial eletrônico por empresas para identificação de suspeitos (2020)
42. Decolonização da IA carlaprv@usp.br Carla Vieira