A biblioteca aumentada: ferramentas de IA xerativa no traballo bibliotecario

Palestra orientada a representantes de bibliotecas municipais, trata do uso crítico e efectivo de ferramentas xenéricas de IA xerativa no contexto do seu traballo.

Transcript

1. A biblioteca aumentada Ferramentas de intelixencia artificial xenerativa no traballo bibliotecario Laura M. Castro Souto
2. Que uso lle dades a estas ferramentas? No traballo? E na casa?
3. A IA Xenerativa pode ser útil no traballo bibliotecario se se usa con criterio Ese criterio é o que as bibliotecas levan décadas ensinando: Avaliar fontes A biblioteca aumentada Contrastar datos Citar Laura M. Castro - Universidade da Coruña
4. A biblioteca como axente de alfabetización en IA O papel da biblioteca ante a cidadanía
5. O marco normativo Febreiro de 2025 O artigo 4 do Regulamento europeo de IA esixe medidas de alfabetización en IA. As institucións que usan IA tamén teñen esta obriga co seu persoal. Xullo de 2026 O regulamento «Ómnibus dixital» pide adoptar medidas que a promovan a alfabetización en IA. A biblioteca aumentada As bibliotecas poden ser parte da solución, non só usuarias. Laura M. Castro - Universidade da Coruña
6. A mesma función, un novo reto Internet Correo, buscadores Administración electrónica Intelixencia artificial As bibliotecas xa nos aprenderon a usar internet, o correo, os buscadores, a administración electrónica... A IA Xerativa é o seguinte reto da alfabetización informacional. A biblioteca aumentada Laura M. Castro - Universidade da Coruña
7. Que poden ofrecer as bibliotecas «Pregúntalle e verifica» Obradoiros para usar a IA xerativa e contrastar as respostas no catálogo e en fontes fiables. Público xuvenil e familias Usos e límites da IA, ética, privacidade, sustentabilidade. A biblioteca aumentada Cidadanía en xeral Acompañamento ante a antropomorfización: recoñecer elementos xerados con IA. Clubes de lectura A IA xerativa como punto de partida para o debate. Laura M. Castro - Universidade da Coruña
8. Que pode facer a IA xerativa e que non Como funciona, onde falla e por que importa
9. Que é un modelo de linguaxe Só o modelo Non é un catálogo. Responde co que calcula que é máis probable. Pode inventar datos sen dubidar («alucinacións»). Con busca web Predí o texto máis plausible. A biblioteca aumentada Consulta páxinas e adoita mostrar as ligazóns. Máis fiable, pero non exento de invencións. Laura M. Castro - Universidade da Coruña
10. Evidencia científica: inventan menos, pero inventan 18 % 45 % do 6 % ao 29 % das citas de GPT-4 eran inventadas, fronte ao 55 % de GPT-3.5 das citas reais xeradas por GPT-4 tiña erros, sobre todo no DOI de citas inventadas nun tema moi estudado fronte a un pouco coñecido DICA Toda referencia debe ser manualmente comprobada. Hai que ter máis coidado canto menos coñecido sexa o tema: aí é onde máis inventan. Walters e Wilder (2023). “Fabrication and errors in the bibliographic citations generated by ChatGPT”. Scientific Reports, 13. Kalai e Vempala (2024). “Calibrated Language Models Must Hallucinate” ACM Symposium on Theory of Computing, 160–171. Linardon et al. (2025). “Influence of Topic Familiarity and Prompt Specificity on Citation Fabrication in Mental Health Research Using Large Language Models: Experimental Study”. JMIR Mental Health, 12. A biblioteca aumentada Universidade da Coruña
11. Evidencia científica: inventan menos, pero inventan 13 % entre o 17 % e o 33 % como moito, das referencias propostas eran pertinentes; entre o 28,6 % e o 91,4 % eran inventadas de «alucinacións» en ferramentas especializadas que buscan en fontes antes de responder e se anuncian como «sen alucinacións» DICA Toda referencia debe ser manualmente comprobada. Hai que ter máis coidado canto menos coñecido sexa o tema: aí é onde máis inventan. Chelli et al. (2024). “Hallucination Rates and Reference Accuracy of ChatGPT and Bard for Systematic Reviews: Comparative Analysis”. Journal of Medical Internet Research, 26. Magesh et al. (2025). “Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools”. Journal of Empirical Legal Studies, 22 (2). A biblioteca aumentada Universidade da Coruña
12. Evidencia científica: resumir? depende do texto ☑ novas xornalísticas ☒ ciencia ao nivel da redacción humana case 5 veces máis xeneralizacións que especialistas; pedir exactitude case duplicaba a probabilidade de xeneralizar DICA Ler o texto orixinal e procurar os matices perdidos. Resumir é unha tarefa obxectiva ou un exercicio de selección intencionada? Zhang et al. (2024). “Benchmarking Large Language Models for News Summarization”. Transactions of the ACL, 12. Peters e Chin-Yee (2025). “Generalization bias in large language model summarization of scientific research”. Royal Society Open Science, 12(4). A biblioteca aumentada Universidade da Coruña
13. Evidencia científica: a tradución non é mellor 84,1 % poucos datos omisións de 204 linguas, ChatGPT traducía peor que sistemas tradicionais os estudos concéntranse en traducir desde o inglés erros críticos mesmo traducindo por parágrafos DICA Para avisos curtos en linguas maioritarias, a IA xerativa pode proporcionar un bo borrador. En linguas con poucos recursos en liña ou textos longo, é imprescindible a revisión por persoas falantes. Guerreiro et al. (2023). “Hallucinations in Large Multilingual Translation Models”. Transactions of the ACL, 11. Karpinska e Iyyer (2023). “Large Language Models Effectively Leverage Document-level Context for Literary Translation, but Critical Errors Persist”. Conference on Machine Translation. Robinson et al. (2023). “ChatGPT MT: Competitive for High- (but Not Low-) Resource Languages”. Conference on Machine Translation. A biblioteca aumentada Universidade da Coruña
14. Evidencia científica: a tradución non é mellor responden noutra lingua nesgos de xénero nin sequera os mellores modelos o evitan; agrávase en instrucións complexas do inglés a linguas latinas (máis marcas de xénero); instruír expresamente «sen nesgo» reduce (12 %) DICA Indicar expresamente a lingua da resposta e como tratar o xénero. Revisar o resultado, comparar con tradutores especializados (galego: Proxecto Nós). Marchisio et al. (2024). “Understanding and Mitigating Language Confusion in LLMs”. Empirical Methods in Natural Language Processing. Sant et al. (2024). “The power of Prompts: Evaluating and Mitigating Gender Bias in MT with LLMs”. Gender Bias in Natural Language Processing. A biblioteca aumentada Universidade da Coruña
15. Evidencia científica: catalogación pobre 54 % exactitude baixa máximo acerto en tarefas de catalogación por materias ningún modelo superou o 26 %, e inventaron datos moita variabilidade, peor nas preguntas locais DICA Comprobar que cada etiqueta ou número existe e o significado encaixa. Especial atención a referencias locais. Lai (2023). “How Well Does ChatGPT Handle Reference Inquiries? An Analysis Based on Question Types and Question Complexities”. College & Research Libraries, 84(6). Dobreski e Hastings (2025). “AI Chatbots and Subject Cataloging: A Performance Test”. Library Resources & Technical Services, 69(2). Whitfield e Yang (2025). “Evaluating AI Language Models for Reference Services: A Comparative Study of ChatGPT, Gemini, and Copilot”. Internet Reference Services Quarterly, 29(2). A biblioteca aumentada Universidade da Coruña
16. Evidencia científica: nin contan nin ordenan ben 9,11 > 9,9 perden e inventan os modelos erran reiteradamente en 17 tarefas numéricas de nivel escolar comprobar o número de elementos non é suficiente: algúns desaparecen e introducen inventados DICA Para ordenar, contar ou eliminar duplicados, mellor unha folla de cálculo. Gao et al. (2023). “PAL: Program-aided Language Models”. Machine Learning Research, 202. Yang et al. (2025). “Number Cookbook: Number Understanding of Language Models and How to Improve It”. International Conference on Learning Representations. A biblioteca aumentada Universidade da Coruña
17. Gratuíto significa que o produto… As condicións cambian O uso intensivo ten límites Pode mudar o custe, reducirse os límites de uso ou retirar funcións. O que hoxe chega para probar pode non chegar para o día a día. Dependencia tecnolóxica Que pasa cos nosos datos Un procedemento que só funciona cunha ferramenta depende dunha empresa, gratuíta ou de pagamento. As opcións gratuítas adoitan empregarse para adestrar novos modelos. Varía segundo a ferramenta e o tipo de conta. A biblioteca aumentada Laura M. Castro - Universidade da Coruña
18. Algunhas dicas máis Para poñer en práctica a partir do luns
19. Regras elementais Dar instrucións precisas Non introducir datos persoais Non depender dunha única ferramenta Indicar sempre cando un contido se elaborou con apoio de IA Contrastar e validar resultados Revisar sempre antes de publicar A biblioteca aumentada Laura M. Castro - Universidade da Coruña
20. Modelo recomendado «Actúa como [rol]. Necesito [produto] para [público]. Ten en conta [os datos que achego]. Non engadas información que non estea nos datos. Escribe en galego normativo e cun ton [rexistro].» A biblioteca aumentada Laura M. Castro - Universidade da Coruña
21. Modelo recomendado «Actúa como [rol]. Necesito [produto] para [público]. Ten en conta [os datos que achego]. A información que uses debe estar nos datos. Escribe en galego normativo e cun ton [rexistro].» A biblioteca aumentada Laura M. Castro - Universidade da Coruña
22. Modelo recomendado «Actúa como [rol]. Necesito [produto] para [público]. Ten en conta [os datos que achego]. A información que uses debe estar nos datos. Escribe en galego normativo e cun ton [rexistro].» Exemplo: rol = persoal técnico de biblioteca municipal produto = nota de prensa público = medios locais do concello da Coruña os datos que achego = datos da actividade rexistro = institucional e próximo A biblioteca aumentada Laura M. Castro - Universidade da Coruña
23. Escenarios posibles Tarefa Que pedir Que comprobar Difusión Nota de prensa, textos para redes, boletín de novidades Datas, horarios e nomes; ton institucional; calidade do galego Accesibilidade Adaptar un texto a linguaxe clara, sinxela Que non se perda información; criterios de lectura fácil se se presenta como tal Mediación lectora Preguntas para o clube de lectura; guía temática a partir da nosa lista de títulos Que non se engadan títulos; que todo o recomendado estea no fondo propio Atención ao público Respostas a consultas frecuentes; tradución de avisos para falantes doutras linguas Exactitude da normativa propia: horarios, condicións de empréstimo, sancións Proceso técnico Proposta de resumo ou de palabras chave a partir de contracubertas ou índices Exactitude da información, recuperación de matices fronte á xeralización A biblioteca aumentada Laura M. Castro - Universidade da Coruña
24. Escenarios posibles O resultado é un borrador. A revisión e a decisión son profesionais. Atopar os erros é parte da tarefa. Tarefa Que pedir Que comprobar Difusión Nota de prensa, textos para redes, boletín de novidades Datas, horarios e nomes; ton institucional; calidade do galego Accesibilidade Adaptar un texto a linguaxe clara, sinxela Que non se perda información; criterios de lectura fácil se se presenta como tal Mediación lectora Preguntas para o clube de lectura; guía temática a partir da nosa lista de títulos Que non se engadan títulos; que todo o recomendado estea no fondo propio Atención ao público Respostas a consultas frecuentes; tradución de avisos para falantes doutras linguas Exactitude da normativa propia: horarios, condicións de empréstimo, sancións Proceso técnico Proposta de resumo ou de palabras chave a partir de contracubertas ou índices Exactitude da información, recuperación de matices fronte á xeralización A biblioteca aumentada Laura M. Castro - Universidade da Coruña
25. Peche de sesión «Escribe as instrucións debería ter usado desde o inicio para chegar a esta solución nun único paso.» A biblioteca aumentada Laura M. Castro - Universidade da Coruña
26. EN RESUMO... Tres mensaxes 1 A biblioteca pode ensinar á cidadanía a usar a IA xerativa con criterio propio. 2 A IA xerativa non é un catálogo. Temos que verificar sempre. 3 O criterio é do persoal da biblioteca. Os chatbot de IA xerativa non teñen.
27. Grazas! Agardo que vos resultara de interese :-) Laura M. Castro Souto lcastro@udc.gal Universidade da Coruña