As intelixencias artificiais como xeradoras de cultura: exploración dos nesgos de xénero de ChatGPT

As intelixencias artificiais xeneradoras están xa producindo textos que pasan a formar parte do noso mundo. A lingua (escrita, neste caso) é un piar fundamental da cutura, polo que cabe preguntarnos que tipo de "axentes creadores de cultura" son estes sistemas.

Para visibilizar esta cuestión, preséntase un experimento que ten como protagonista ChatGPT e como contexto, as mulleres (novas) en STEM.

Transcript

1. Exploración dos nesgos de xénero de ChatGPT AS INTELIXENCIAS ARTIFICIAIS COMO XERADORAS DE CULTURA
2. O que é a cultura? • "(…) inclúe coñecemento, crenzas, arte, morais, leis, costumes e outras aptitudes e hábitos adquiridos polo ser humano como membro da sociedade." —Edward Burnett Tylor • Cultura e lingua están estreitamente relacionadas • A lingua é un factor chave no desenvolvemento e transmisión da cultura • A cultura é en moitos aspectos un reflexo da lingua • Mesmo cando non sempre coinciden, a lingua xoga sempre un papel fundamental da tradición cultural Esta fotode autora descoñecida ten licenza CC BY.
3. O que son as "Intelixencias Artificiais"? • O termo "Intelixencia Artificial" usouse por primeira vez en 1956 • Dúas correntes principais (mente vs cerebro): • Intelixencia Artificial simbólica • Crear representacións simbólicas do mundo e algoritmos de razoamento • Intelixencia é explorar un espazo de posibilidades na procura de respostas • Dominante as primeiras décadas, considerábase que orixinaría a "IA xeral" • Intelixencia Artificial conexionista • Crear sistemas que fisicamente imitan o cerebro humano (neuronas) e algoritmos de comunicación e realimentación entre os seus compoñentes • Considera que a intelixencia xorde da aprendizaxe • Limitada nos seus inicio, en auxe a día de hoxe
4. IAs xeradoras de contido • Large Language Models (Modelos Masivos de Linguaxe) • Redes neuronais (IA conexionista) con billóns de compoñentes • Especializados en predicir a seguinte palabra nunha frase • Adestrados empregando grandes conxuntos de datos (10 trillóns de palabras) • Intelixencias Artificiais xenerativas • Redes neuronais (IA conexionista) especializadas en producir texto, imaxes, moléculas... • Usan LLMs e producen estatisticamente contidos con características semellantes a partir dos incluídos no seu conxunto de adestramento • Exemplos coñecidos: ChatGPT (Bing), Bard, Stable Diffusion, Midjourney, DALL-E
5. IAsxeradoras de contido • Large Language Models (Modelos Masivos de Linguaxe) • Redes neuronais (IA conexionista) con billóns de compoñentes • Especializados en predicir a seguinte palabra nunha frase • Adestrados empregando grandes conxuntos de datos (10 trillóns de palabras) • Intelixencias Artificiais xenerativas • Redes neuronais (IA conexionista) especializadas en producir texto, imaxes, moléculas... • Usan LLMs e producen estatisticamente contidos con características semellantes a partir dos incluídos no seu conxunto de adestramento • Exemplos coñecidos: ChatGPT (Bing), Bard, Stable Diffusion, Midjourney, DALL-E Máquinas de cultura?
6. IAsxeradoras de contido • Large Language Models (Modelos Masivos de Linguaxe) • Redes neuronais (IA conexionista) con billóns de compoñentes • Especializados en predicir a seguinte palabra nunha frase • Adestrados empregando grandes conxuntos de datos (10 trillóns de palabras) • Intelixencias Artificiais xenerativas • Redes neuronais (IA conexionista) especializadas en producir texto, imaxes, moléculas... • Usan LLMs e producen estatisticamente contidos con características semellantes a partir dos incluídos no seu conxunto de adestramento • Exemplos coñecidos: ChatGPT (Bing), Bard, Stable Diffusion, Midjourney, DALL-E Esta fotode autora descoñecida ten licenza de CC BY-SA-NC. Máquinas de cultura?
7. Experiencia: ChatGPTe as mulleres en STEM
8. Metodoloxía
9. Metodoloxía "Son boa estudante" "Non me gustan as matemáticas" "Gústame axudar á xente" "Son traballadora" "Gústanme os problemas difíciles" "Gústame traballar en grupo"
10. Metodoloxía
11. Metodoloxía https://bit.ly/XUGeX23ChatGPT
12. Metodoloxía
13. Resultados Aspectos analizados: 1. Carreiras universitarias mencionadas 2. Linguaxe utilizada (contido) 3. Lingua da resposta 4. Correspondencia co xénero da pregunta 5. Outros
14. Resultados Aspectos analizados: 1. Carreiras universitarias mencionadas 2. Linguaxe utilizada (contido) 3. Lingua da resposta 4. Correspondencia co xénero da pregunta 5. Outros
15. Resultados Aspectos analizados: 1. Carreiras universitarias mencionadas 2. Linguaxe utilizada (contido) 3. Lingua da resposta 4. Correspondencia co xénero da pregunta 5. Outros Titular: ChatGPT suxire as mesmas carreiras a mozos e mozas
16. Resultados Aspectos analizados: 1. Carreiras universitarias mencionadas 2. Linguaxe utilizada (contido) 3. Lingua da resposta 4. Correspondencia co xénero da pregunta 5. Outros Titular: ChatGPT suxire as mesmas carreiras a mozos e mozas Corpo da noticia: ChatGPT ofrece o dobre de exemplos concretos ás mozas (moitos no caso das humanidades, con especial profusión na comunicación e as especialidades da medicina), pero todos os dos mozos se refiren a enxeñarías
17. Resultados Aspectos analizados: 1. Carreiras universitarias mencionadas 2. Linguaxe utilizada (contido) 3. Lingua da resposta 4. Correspondencia co xénero da pregunta 5. Outros
18. Resultados Aspectos analizados: 1. Carreiras universitarias mencionadas 2. Linguaxe utilizada (contido) 3. Lingua da resposta 4. Correspondencia co xénero da pregunta 5. Outros Titular: A linguaxe "micromachista" de ChatGPT
19. Resultados Aspectos analizados: 1. Carreiras universitarias mencionadas 2. Linguaxe utilizada (contido) 3. Lingua da resposta 4. Correspondencia co xénero da pregunta 5. Outros Titular: A linguaxe "micromachista" de ChatGPT Corpo da noticia: As mozas reciben comentarios que fan alusión aos coidados, e os mozos ao "liderado", "talento creativo" ou "habilidades para persuadir e convencer"
20. Resultados Aspectos analizados: 1. Carreiras universitarias mencionadas 2. Linguaxe utilizada (contido) 3. Lingua da resposta 4. Correspondencia co xénero da pregunta 5. Outros
21. Resultados Aspectos analizados: 1. Carreiras universitarias mencionadas 2. Linguaxe utilizada (contido) 3. Lingua da resposta 4. Correspondencia co xénero da pregunta 5. Outros Titular: ChatGPT, tamén diglósico
22. Resultados Aspectos analizados: 1. Carreiras universitarias mencionadas 2. Linguaxe utilizada (contido) 3. Lingua da resposta 4. Correspondencia co xénero da pregunta 5. Outros Titular: ChatGPT, tamén diglósico Corpo da noticia: Só en 3 das 18 sesións respondeu en galego, e ademais as sesións en galego conteñen erros gramaticais e ortográficos
23. Resultados Aspectos analizados: 1. Carreiras universitarias mencionadas 2. Linguaxe utilizada (contido) 3. Lingua da resposta 4. Correspondencia co xénero da pregunta 5. Outros
24. Resultados Aspectos analizados: 1. Carreiras universitarias mencionadas 2. Linguaxe utilizada (contido) 3. Lingua da resposta 4. Correspondencia co xénero da pregunta 5. Outros Titular: ChatGPT foxe dos masculinos xenéricos
25. Resultados Aspectos analizados: 1. Carreiras universitarias mencionadas 2. Linguaxe utilizada (contido) 3. Lingua da resposta 4. Correspondencia co xénero da pregunta 5. Outros Titular: ChatGPT foxe dos masculinos xenéricos Corpo da noticia: Un terzo das respostas foron neutras, mais no resto, os homes sempre son correctamente genderizados, mentres que en 5 de cada 9 casos as mulleres son tratadas en masculino
26. Resultados Aspectos analizados: 1. Carreiras universitarias mencionadas 2. Linguaxe utilizada (contido) 3. Lingua da resposta 4. Correspondencia co xénero da pregunta 5. Outros
27. Resultados Aspectos analizados: 1. Carreiras universitarias mencionadas 2. Linguaxe utilizada (contido) 3. Lingua da resposta 4. Correspondencia co xénero da pregunta 5. Outros Titular: ChatGPT recomenda contrastar con humanos
28. Resultados Aspectos analizados: 1. Carreiras universitarias mencionadas 2. Linguaxe utilizada (contido) 3. Lingua da resposta 4. Correspondencia co xénero da pregunta 5. Outros Titular: ChatGPT recomenda contrastar con humanos Corpo da noticia: Aos mozos recoméndaselles consultar con profesionais; ás mozas, coa súa familia, profesorado ou conselleiros escolares
29. Conclusións • Os sistemas baseados en IA xenerativa, a medida que se popularizan, teñen un potencial de impacto moi grande • Estes sistemas, configurados sen supervisión empregando fontes de información non curadas, están chamados a conter e reproducir nesgos de xénero, no canto de a superalos ou contribuír a desterralos • ChatGPT reproduce nesgos de xénero, de xeito sutil pero consistente, cando se realizan interaccións que involucran mulleres en STEM
30. Grazas! • Laura M. Castro Souto (UDC, lcastro@udc.es) • Teresa Piñeiro Otero (UDC, teresa.pineiro@udc.es) • Xabier Martínez Rolán (UVigo, xabier.rolan@uvigo.gal) "A group of three people, two women and a man, thanking their audience after a short talk" PerplexityAI BlueWillow