Ola, ChatGPT: que podo facer hoxe? Exploración dos nesgos de xénero na IA Xerativa

Asistimos á rápida popularización da chamada Intelixencia Artificial Xerativa (AIG) grazas á súa integración en ferramentas e servizos cotiáns, como os asistentes plataformas virtuais, chatbots, servizos de tradución e revisión de idiomas ou xeración de contidos. Non obstante, a velocidade á que se están a implantar estes produtos prodúcese a costa dun deseño e validación socialmente responsables. Tampouco a necesaria a alfabetización dixital da poboación xeral avanza ao mesmo ritmo como para que poidamos comprender plenamente as capacidades e limitacións destas ferramentas.

Ilustrar as formas específicas nas que podemos atoparnos, por exemplo, cos nesgos que a IAG reproduce e magnifica é fundamental tanto para a súa supervisión como para a súa mellora. Nesta palestra exploraremos a aparición de prexuízos de xénero nas producións xeradas por AI, achegando luz sobre varias formas de nesgo implícito nos resultados producidos por ChatGPT cando a única diferenza é se o destinatario da resposta é unha muller ou un home.

Transcript

1. Laura M. Castro-Souto Ola, ChatGPT: que podo facer hoxe? Exploración dos nesgos de xénero na IA Xerativa
10. Unha simple anécdota?
17. Outras IAX Cantas palabras vale unha imaxe?
26. Non podes tratar o que non podes entender O miolo
27. Que está a pasar aquí? A IA xerativa, un reflexo do que somos? Estudar, catalogar, visibilizar 01 02 Comprender, xestionar, responsabilizar 03
28. Onde está a intelixencia da IA? «Modelo da mente» «Modelo do cerebro» IA Simbólica IA Conexionista 1956
29. Intelixencia Artificial Simbólica Representacións da realidade e algoritmos para razoar sobre ela, fortemente baseada na lóxica Todo problema ten un espazo de solucións que se pode explorar de diferentes maneiras Da lugar a moitos sistemas expertos (p.ex. xogos de xadrez) e de axuda á decisión (p.ex. na medicina) Modela o mundo e o coñecemento Intelixencia = procura de solucións Dominante nas primeiras décadas
30. Intelixencia Artificial Conexionista Cada neurona é unha unidade de procesamento, algoritmos baseados na súa coordinación/cooperación Parellas de exemplos (problema, solución) permiten extrapolar e inferir (aprender) para solucionar novos exemplos/problemas Require unha grande cantidade de recursos computacionais que non estiveron dispoñibles até hai pouco (e seguen ao alcance de moi poucos) Modela o cerebro (neuronas e conexións) Intelixencia = aprendizaxe Dominante na actualidade
31. IA simbólica vs. IA conexionista Aprendizaxe supervisada, por reforzo, profunda A día de hoxe, nin transparentes, nin explicables Tanto cada paso como o resultado ten xustificación Auto-organizados Caixas negras Baseadas en coñecemento experto Sistemas de regras Explicabilidade Grande consumo de datos, enerxía, auga Custe Grande esforzo de modelado e desenvolvemento Custe
32. IA simbólica vs. IA conexionista Aprendizaxe supervisada, por reforzo, profunda A día de hoxe, nin transparentes, nin explicables Tanto cada paso como o resultado ten xustificación Auto-organizados Caixas negras Baseadas en coñecemento experto Sistemas de regras Explicabilidade Grande consumo de datos, enerxía, auga Custe Grande esforzo de modelado e desenvolvemento Custe Primeiros tradutores, correctores, ferramentas de linguaxe
33. IA simbólica vs. IA conexionista Aprendizaxe supervisada, por reforzo, profunda A día de hoxe, nin transparentes, nin explicables Tanto cada paso como o resultado ten xustificación Auto-organizados Caixas negras Baseadas en coñecemento experto Sistemas de regras Explicabilidade Grande consumo de datos, enerxía, auga Custe Grande esforzo de modelado e desenvolvemento Custe
34. Os nesgos e as IA Xerativas As nosas sociedades están cheas de nesgos (que traballamos para erradicar) Non nos representan a todas, nin equitativamente, nin neutralmente Mesmo os axustes introducidos aos modelos para paliar nesgos introducen novos nesgos Falsa neutralidade Falsa autoridade Nesgos Na orixe dos datos Nos datos Nos modelos Na automatización
35. Os nesgos e as IA Xerativas As nosas sociedades están cheas de nesgos (que traballamos para erradicar) Non nos representan a todas, nin equitativamente, nin neutralmente Mesmo os axustes introducidos aos modelos para paliar nesgos introducen novos nesgos Falsa neutralidade Falsa autoridade Nesgos Na orixe dos datos Nos datos Nos modelos Na automatización
36. Das anécdotas ao coñecemento científico A investigación
37. “Manifestations of Gender-Bias in LLMs An exploration of differences in AI-generated responses aimed at young adults” Caso de estudio: ChatGPT usado como orientador por estudantes na etapa previa ao acceso universitario • Moza/o • Preferencias, gustos • Consello? Nesgo de exemplificación Diferenzas no número e tipo de exemplo Nesgo de orientación Énfase nos coidados vs. Énfase nas habilidades persoais Nesgo de validación Consello familiar vs. Consello profesional 01 02 03
38. “Manifestations of Gender-Bias in LLMs An exploration of differences in AI-generated responses aimed at young adults” Caso de estudio: ChatGPT usado como orientador por estudantes na etapa previa ao acceso universitario • Moza/o • Preferencias, gustos • Consello? Nesgo de exemplificación Diferenzas no número e tipo de exemplo Nesgo de orientación Énfase nos coidados vs. Énfase nas habilidades persoais Nesgo de validación Consello familiar vs. Consello profesional 01 02 03 e ademais, missgendering
39. “Manifestations of Gender-Bias in LLMs An exploration of differences in AI-generated responses aimed at young adults” Caso de estudio: ChatGPT usado como orientador por estudantes na etapa previa ao acceso universitario • Moza/o • Preferencias, gustos • Consello? Nesgo de exemplificación Diferenzas no número e tipo de exemplo Nesgo de orientación Énfase nos coidados vs. Énfase nas habilidades persoais Nesgo de validación Consello familiar vs. Consello profesional 01 02 03 e ademais, diglosia e ademais, missgendering
40. Seguintes pasos... Seguir explorando o comportamento das IA xerativas é outro xeito de estudarnos a nós Moitas investigadoras traballando nestes temas Taxonomía de nesgos, como detectalos (supervisión) + Experimentos + Visibilidade + Ferramentas
41. Seguintes pasos... Seguir explorando o comportamento das IA xerativas é outro xeito de estudarnos a nós Moitas investigadoras traballando nestes temas Taxonomía de nesgos, como detectalos (supervisión) + Experimentos + Visibilidade + Ferramentas Agudo, U., Liberal, K.G., Arrese, M. et al. The impact of AI errors in a human-in-the-loop process. Cognitive Research 9, 1 (2024). https://doi.org/10.1186/s41235- 023-00529-3
42. Seguintes pasos... Seguir explorando o comportamento das IA xerativas é outro xeito de estudarnos a nós Moitas investigadoras traballando nestes temas Taxonomía de nesgos, como detectalos (supervisión) + Experimentos + Visibilidade + Ferramentas Dominguez-Catena, I., Paternain, D., Galar, M. Gender Stereotyping Impact in Facial Expression Recognition. Communications in Computer and Information Science, 1752 (2023). https://doi.org/10.1007/978-3-031- 23618-1_1
43. CREDITS: This presentation template was created by Slidesgo, and includes icons by Flaticon, and infographics & images by Freepik Grazas! Laura M. Castro-Souto lcastro@udc.gal