Conoce los riesgos de las IAs como ChatGPT

Los avances en sistemas de inteligencia artificial conversacional, como ChatGPT, introducen desafíos y riesgos que necesitan ser abordados de manera responsable. Estos incluyen la generación de información falsa o sesgada, sesgos en las respuestas, y preocupaciones sobre la seguridad y privacidad de los datos.

Para mitigar estos riesgos, es crucial adoptar buenas prácticas y medidas de seguridad. Esto implica aprender a detectar respuestas sesgadas o falsas, validar fuentes de información, y comprender el estado actual y futuro de la regulación de estos sistemas de IA.

Esta información es valiosa tanto para usuarios finales como para profesionales y empresas interesados en utilizar de forma segura y ética las capacidades de los sistemas de IA conversacional.

Transcript

1. imanolteran.com INTELIGENCIA ARTIFICIAL Conoce sus riesgos Riesgos IA
2. Riesgos IA imanolteran.com HOLA, SOY IMANOL CONSULTOR DE ESTRATEGIA DIGITAL FORMADOR EN NUEVAS TECNOLOGÍAS imanolteran.com
3. imanolteran.com Riesgos IA IAGENERATIVA Máster Online iagenerativa.com
4. imanolteran.com 1. Introducción 2. Riesgos de seguridad y medidas a tomar 3. Legislación 4. Buenas prácticas 5. Conclusiones índice Riesgos IA
5. imanolteran.com Riesgos IA
6. imanolteran.com Riesgos IA En esta presentación encontrarás contenido, tanto en formato texto como imagen, creado con herramientas de IA como: ChatGPT, Anthropic Claude, DALL·E 3 y RunwayML
7. imanolteran.com 01 Introducción Pongámonos en situación Riesgos IA
8. Riesgos IA imanolteran.com • 2022 fue el año de explosión de la IA. • ChatGPT fue la gran bomba de finales de 2022. • Ha revolucionado un montón de sectores. • Nos hace enormemente productivos. • Nos permite hacer muchas cosas que hasta ahora eran impensables o inaccesibles. • También lleva una serie de riesgos asociados. Introducción 01 8
9. Riesgos IA imanolteran.com • Su irrupción no está exenta de polémica: • El robot conversacional ChatGPT aprueba el examen de la facultad de Derecho de Estados Unidos • Una famosa universidad francesa prohibe el uso de ChatGPT o de la IA • Nueva York prohibe ChatGPT en los colegios • Universidades australianas revisan sus métodos de evaluación • Los profesores de Málaga apuestan por la inteligencia artificial ChatGPT • Nuevos retos para el profesorado en la era de la inteligencia artificial Introducción 01 9
10. Riesgos IA imanolteran.com • Su irrupción no está exenta de polémica: • The Kindle Store has a prolific new author: ChatGPT • “Obligo a usar ChatGPT en mis clases”. Así es la irrupción inexorable de la nueva IA a las aulas • El sueño de China de tener su propio ChatGPT tiene un obstáculo: las severas restricciones comerciales de EEUU • Los cientos de miles de trabajadores en países pobres que hacen posible la existencia de sistemas de inteligencia artificial como ChatGPT (y por qué generan controversia) Introducción 01 10
11. Riesgos IA imanolteran.com • No se para de hablar de IA • ChatGPT llega a Slack: lo que puedes hacer con esta IA en tu día a día en el trabajo • ChatGPT ahora está disponible en Azure • DuckDuckGo está construyendo respuestas con IA en su buscador • Discord y OpenAI han llegado a un acuerdo para usar la IA de ChatGPT como bot especial en sus grupos. • Uno de los fundadores de OpenAI sale la compañía para evitar conflictos de intereses Introducción 01 11
12. Riesgos IA imanolteran.com • No se para de hablar de IA • La Casa Blanca apoyará un hackeo masivo para poner a raya los chatbots de inteligencia artificial • Biden cita las tecnológicas en la Casa Blanca para intentar que no se descontrole la IA • La industria china de inteligencia artificial resiste pese al veto de EEUU a la exportación de chips Introducción 01 12
13. Riesgos IA imanolteran.com • No se para de hablar de IA • Petición de parar 6 meses el desarrollo de IA. • AEPD abre investigación sobre ChatGPT. • ChatGPT baneado en Italia • Google deja a la UE fuera de su nueva inteligencia artificial • Luz verde para la nueva ley de inteligencia artificial de Europa: así te va a afectar Introducción 01 13
14. Riesgos IA imanolteran.com • No se para de hablar de IA • Apple prohibe el uso de ChatGPT • ChatGPT no sabe guardar un secreto • AppleGPT está en camino Introducción 01 14
15. Riesgos IA imanolteran.com • No se para de hablar de IA • La Unesco pide reglas sobre el uso de la IA en las escuelas • Microsoft anuncia un nuevo compromiso de derechos de autor de Copilot para los clientes • A casi un año de ChatGPT, ¿qué piensan los directivos escolares de la inteligencia artificial? • La Agencia Española de Inteligencia Artificial estará funcionando en 3 meses como máximo Introducción 01 15
16. Riesgos IA imanolteran.com • No se para de hablar de IA • Israel falsely accused of sharing fake images of Hamas atrocities using AI • Decenas de menores de Extremadura denuncian que circulan fotos de falsos desnudos suyos creadas por inteligencia artificial: “Me dio un vuelco el corazón” • Estos son los 15 mayores riesgos de la IA • Identifying AI-generated images with SynthID • X responde a la críticas sobre las fake news sobre Israel y Hamas Introducción 01 16
17. Riesgos IA imanolteran.com Introducción 01 17
18. Riesgos IA imanolteran.com Introducción 01 18
19. Riesgos IA imanolteran.com Introducción 01 19
20. Riesgos IA imanolteran.com • ¿De dónde salen los datos de entrenamiento de los grandes modelos de lenguaje? Introducción 01 20 FUENTES DE LOS DATOS
21. Riesgos IA imanolteran.com Introducción 01 21
22. imanolteran.com 02Riesgos De seguridad Riesgos IA
23. imanolteran.com Riesgos IA
24. Riesgos IA imanolteran.com • Privacidad de los datos y confidencialidad de la información. • Manipulación de información y desinformación. • Vulnerabilidad frente a ataques cibernéticos. • Suplantación de identidad. • Phising. • Perpetuación de sesgos. Riesgos 02 24
25. imanolteran.com PRIVACIDAD
26. Riesgos IA imanolteran.com • Extracción de atributos sensibles: • Los modelos de IA pueden inferir información protegida como orientación sexual, origen étnico, creencias políticas, entre otros, a partir de datos supuestamente anónimos. • Identificación de individuos: • Técnicas de IA permiten reidentificar a personas en conjuntos de datos anonimizados al cruzar datos con otras fuentes. • Vigilancia predictiva: • El análisis de patrones con IA facilita la vigilancia masiva y la predicción del comportamiento de individuos. Riesgos 02 26 PRIVACIDAD DE LOS DATOS
27. Riesgos IA imanolteran.com • Discriminación algorítmica: • Decisiones automatizadas sobre individuos basadas en correlaciones espúreas encontradas por modelos de IA. • Vulnerabilidad de datos de entrenamiento: • Los conjuntos de datos usados para entrenar modelos de IA con frecuencia contienen información sensible insuficientemente protegida. Riesgos 02 27 PRIVACIDAD DE LOS DATOS
28. Riesgos IA imanolteran.com • Consecuencias: • Pérdida de autonomía y libertad individual. • Negación de oportunidades basada en predicciones sesgadas. • Manipulación comercial y política. • Normalización de la vigilancia omnipresente. Riesgos 02 28 PRIVACIDAD DE LOS DATOS
29. Riesgos IA imanolteran.com • Posibles soluciones: • Anonimización y encriptación robusta de datos. • Transparencia en el uso de datos personales. • Controles de acceso estrictos a datos de entrenamiento. • Consentimiento informado para procesamiento de datos sensibles. • Supervisión humana de predicciones algorítmicas. Riesgos 02 29 PRIVACIDAD DE LOS DATOS
30. imanolteran.com DESINFORMACIÓN
31. Riesgos IA imanolteran.com • Personalización de fakes. • Automatización de generación y difusión. • Evadir verificadores. Riesgos 02 31 DESINFORMACIÓN
32. Riesgos IA imanolteran.com • Consecuencias • Polarización social y política extrema. • Desconfianza en instituciones y medios. • Manipulación de opinión pública. • Interferencia en procesos democráticos. • Normalización de discursos radicales. Riesgos 02 32 DESINFORMACIÓN
33. Riesgos IA imanolteran.com • Posibles soluciones • Alfabetización mediática y pensamiento crítico en los usuarios. • Sistemas robustos de detección de desinformación. • Regulación de plataformas para frenar difusión viral. • Transparencia en fuentes de información. • Verificación de hechos por organizaciones creíbles. • Responsabilidad social de generadores de contenido IA. Riesgos 02 33 DESINFORMACIÓN
34. imanolteran.com VULNERABILIDADES
35. Riesgos IA imanolteran.com • Backdoors • Durante el entrenamiento se puede insertar una puerta trasera en el modelo que permite tomar el control cuando se activa con un input especial. • Datos envenenados: • Inyectar datos maliciosos en el conjunto de entrenamiento hace que el modelo aprenda asociaciones peligrosas. Por ejemplo, relacionar individuos con características negativas. Riesgos 02 35 VULNERABILIDAD ANTE ATAQUES
36. Riesgos IA imanolteran.com • Extracción de datos: • Mediante consultas repetidas, obtener información sobre el conjunto de entrenamiento del modelo. • Ataques de caja negra: • Sin acceso al modelo, encontrar entradas que provocan fallos por medio de experimentación. Riesgos 02 36 VULNERABILIDAD ANTE ATAQUES
37. Riesgos IA imanolteran.com • Consecuencias • Discriminación algorítmica. • Fugas de información sensible. • Evasión de sistemas de detección de amenazas. Riesgos 02 37 VULNERABILIDAD ANTE ATAQUES
38. Riesgos IA imanolteran.com • Posibles soluciones • Criptografía y privacidad diferencial • Monitoreo de consulta API • Restringir acceso a modelos • Reentrenar regularmente con nuevos datos Riesgos 02 38 VULNERABILIDAD ANTE ATAQUES
39. imanolteran.com DEEPFAKES
40. Riesgos IA imanolteran.com 02
41. Riesgos IA imanolteran.com 02
42. Riesgos IA imanolteran.com 02
43. Riesgos IA imanolteran.com 02
44. Riesgos IA imanolteran.com • Vídeos y audios falsos hiperrealistas generados por IA que pueden utilizarse para estafas y extorsión. • Vamos a un mundo extremadamente complejo en este sentido. • Muy sencillo suplantar identidades. Riesgos 02 44 DEEPFAKES
45. Riesgos IA imanolteran.com • Suplantación de identidad: • Se puede imitar voces, caras y conductas de personas para acciones fraudulentas o difamatorias. • Desinformación: • Los deepfakes son difíciles de distinguir de contenidos auténticos, lo que facilita la propagación de noticias falsas. Riesgos 02 45 DEEPFAKES
46. Riesgos IA imanolteran.com • Manipulación política: • Influenciar elecciones o procesos democráticos con videos de líderes falsos. • Chantaje y extorsión: • Amenazar a personas con crear contenido fake comprometedor para extorsionarlas. Riesgos 02 46 DEEPFAKES
47. Riesgos IA imanolteran.com • Normalización: • La proliferación de deepfakes puede erosionar la confianza social en evidencia real. • Vigilancia ilícita: • Sintetizar rostros reales en escenarios y actividades comprometedoras sin consentimiento. Riesgos 02 47 DEEPFAKES
48. Riesgos IA imanolteran.com • Posibles soluciones: • Tecnologías de detección avanzadas. • Plataformas para rastrear y exhibir deepfakes conocidos. • Alfabetización digital para identificar señales de alerta. Riesgos 02 48 DEEPFAKES
49. Riesgos IA imanolteran.com • Posibles soluciones: • Regulación para disuadir y penalizar usos dolosos. • Metadatos de autenticación en contenidos legítimos. • Responsabilidad de plataformas en remover deepfakes dañinos. Riesgos 02 49 DEEPFAKES
50. imanolteran.com PHISING
51. Riesgos IA imanolteran.com • La IA puede generar emails de phishing extremadamente convincentes, engañando incluso a usuarios experimentados. • Además, puede hacerlo de forma más rápida y en cualquier idioma. • Los envíos pueden programarse y automatizarse. Riesgos 02 51 PHISING
52. Riesgos IA imanolteran.com • Personalización avanzada: • Los estafadores pueden usar información personal recopilada para crear emails dirigidos que parecen genuinos. • Imitación de identidad: • Clonar de forma precisa la escritura y estilo de comunicación de ejecutivos para solicitar transferencias fraudulentas. Riesgos 02 52 PHISING
53. Riesgos IA imanolteran.com • Llamadas falsas automatizadas: • Usar voces generadas por IA para hacer llamadas telefónicas que suenan reales. • Evadir filtros de spam: • Variar ligeramente elementos del phishing para que pasen desapercibidos frente a filtros antispam actuales. Riesgos 02 53 PHISING
54. Riesgos IA imanolteran.com • Sitios web clones: • Replicar con gran detalle el diseño y contenido de páginas legítimas para robar credenciales. • Campañas masivas automatizadas: • La IA permite personalizar y enviar grandes volúmenes de phishing rápidamente. Riesgos 02 54 PHISING
55. Riesgos IA imanolteran.com • Posibles soluciones: • Sistemas de detección específicos para contenido sintético. • Analizar metadatos y artefactos en contenido generado por IA. • Entrenar al personal para identificar señales de alerta. • Verificación multidimensional de identidad de remitentes. • Restringir permisos y monitorizar el acceso a datos sensibles. Riesgos 02 55 PHISING
56. imanolteran.com PERPETUAR SESGOS
57. Riesgos IA imanolteran.com • Sesgos en los datos de entrenamiento: • Si los datos contienen prejuicios sociales y estereotipos, el modelo aprenderá estos sesgos. • Falta de diversidad en los datos: • Conjuntos de datos que no representan equitativamente diferentes grupos pueden llevar a modelos sesgados. Riesgos 02 57 PERPETUACIÓN DE SESGOS
58. Riesgos IA imanolteran.com • Falta de transparencia: • Los sesgos en modelos de caja negra son difíciles de auditar. • Realimentación de ciclos: • Una vez desplegados, los sesgos en los modelos se refuerzan con el uso continuado. Riesgos 02 58 PERPETUACIÓN DE SESGOS
59. Riesgos IA imanolteran.com • Consecuencias: • Discriminación en préstamos, empleo, vivienda, seguros y justicia penal. • Perpetuación de estereotipos dañinos sobre género y grupos marginalizados. • Violación del derecho a la no discriminación. • Decisiones injustas que niegan oportunidades vitales. Riesgos 02 59 PERPETUACIÓN DE SESGOS
60. Riesgos IA imanolteran.com • Posibles soluciones: • Auditorías algorítmicas continuas para detectar sesgos. • Diversidad, equidad e inclusión en equipos de desarrollo de IA. • Entrenar modelos sobre conjuntos de datos representativos y sin sesgos. • Transparencia en conjuntos de entrenamiento y modelos. • Supervisión humana de decisiones automatizadas. Riesgos 02 60 PERPETUACIÓN DE SESGOS
61. imanolteran.com 03Legislación En qué punto estamos Riesgos IA
62. Riesgos IA imanolteran.com Legislación 03 62 • Leyes de patentes: • Algunos países como el Reino Unido y los Estados Unidos han propuesto legislación para proteger los sistemas de IA que generan una invención mediante un proceso implementado por ordenador. • La propiedad de la patente se atribuiría a quien haya entrenado el algoritmo o proporcionado los datos utilizados para el entrenamient o​ . • Posición de la Unión Europea: • La Unión Europea considera que los sistemas de IA son inventores solo si son programados por humano s​​ .
63. Riesgos IA imanolteran.com Legislación 03 63 • Derechos de autor: • Si un programa informático genera una nueva invención patentable, es la persona que creó el programa la que posee la invención, no el propio programa. Lo mismo ocurre con los derechos de auto r​ ​ . • Propiedad intelectual de las obras generadas por la IA: • Obras generadas por un software que ha sido entrenado con algún tipo de aportación humana. • Obras generadas únicamente por la IA, sin ninguna aportación human a​ ​ .
64. Riesgos IA imanolteran.com Legislación 03 64 • Posición de la Oficina de Derechos de Autor de EE.UU.: • Las obras generadas por la IA pueden ser objeto de derechos de autor si implican algún tipo de aportación humana, pero no si son generadas de forma totalmente automática por un algoritm o​ ​ . • Puntos de controversia: • No está claro cuánto trabajo humano se ha dedicado a desarrollar los datos de entrenamiento de una red neuronal. • Incertidumbre sobre la situación de los algoritmos con múltiples capas de datos de entrenamiento, donde un algoritmo entrena a otro.
65. Riesgos IA imanolteran.com Legislación 03 65 • AI ACT • DSA • AI BILL OF RIGHTS • How governments are looking to regulate AI
66. imanolteran.com 04Buenas prácticas Y medidas para limitar riesgos Riesgos IA
67. Riesgos IA imanolteran.com 1. Sé transparente sobre el uso de IA generativa. Si generas contenido con IA, comunícalo. Esto crea confianza y evita confusión. 2. Ten cuidado con sesgos y desinformación. Evalúa críticamente el contenido generado por IA para detectar posibles sesgos o información falsa. Entrena los modelos con datos diversos y de buena calidad. 3. Respeta los derechos de autor y la propiedad intelectual. No reclames la autoría de contenido generado por IA, y ten cuidado de no infringir derechos de autor. Buenas prácticas 04 67
68. Riesgos IA imanolteran.com 4. Supervisa el contenido generado. Revisa manualmente el contenido de IA antes de publicarlo para detectar errores, contenido inapropiado o posible plagio. 5. Sé responsable con datos sensibles. Ten cuidado al generar contenido relacionado con finanzas, salud o identidades personales. Sigue las leyes de privacidad de datos. 6. Proporciona contexto y atribución. Si publicas contenido de IA, indica claramente que fue generado por IA y proporciona el contexto adecuado para evitar malentendidos. Buenas prácticas 04 68
69. Riesgos IA imanolteran.com 7. Ten un proceso de gobernanza. Establece pautas claras para el uso ético y responsable de herramientas de IA generativa dentro de su organización. 8. Actualiza modelos de IA regularmente. Los sesgos y errores pueden reducirse entrenando los modelos con nuevos datos de forma continua. Buenas prácticas 04 69
70. imanolteran.com 05Conclusiones Consideraciones finales Riesgos IA
71. Riesgos IA imanolteran.com • El mundo, tal y como lo conocíamos, ha cambiado. • Hay que adaptarse, aprender cómo funcionan estas tecnologías. • Hacer un uso responsable. • Verificar información. Conclusiones 05 71
72. imanolteran.com Riesgos IA En esta presentación encontrarás contenido, tanto en formato texto como imagen, creado con herramientas de IA como: ChatGPT, Anthropic Claude, DALL·E 3 y RunwayML
73. imanolteran.com Riesgos IA IAGENERATIVA Máster Online iagenerativa.com
74. imanolteran.com Riesgos IA hola@imanolteran.com Eskerrik asko