Conoce los riesgos de las IAs como ChatGPT

Slide 1

Slide 1 text

imanolteran.com INTELIGENCIA ARTIFICIAL Conoce sus riesgos Riesgos IA

Slide 2

Slide 2 text

Riesgos IA imanolteran.com HOLA, SOY IMANOL CONSULTOR DE ESTRATEGIA DIGITAL FORMADOR EN NUEVAS TECNOLOGÍAS imanolteran.com

Slide 3

Slide 3 text

imanolteran.com Riesgos IA IAGENERATIVA Máster Online iagenerativa.com

Slide 4

Slide 4 text

imanolteran.com 1. Introducción 2. Riesgos de seguridad y medidas a tomar 3. Legislación 4. Buenas prácticas 5. Conclusiones índice Riesgos IA

Slide 5

Slide 5 text

imanolteran.com Riesgos IA

Slide 6

Slide 6 text

imanolteran.com Riesgos IA En esta presentación encontrarás contenido, tanto en formato texto como imagen, creado con herramientas de IA como: ChatGPT, Anthropic Claude, DALL·E 3 y RunwayML

Slide 7

Slide 7 text

imanolteran.com 01 Introducción Pongámonos en situación Riesgos IA

Slide 8

Slide 8 text

Riesgos IA imanolteran.com • 2022 fue el año de explosión de la IA. • ChatGPT fue la gran bomba de finales de 2022. • Ha revolucionado un montón de sectores. • Nos hace enormemente productivos. • Nos permite hacer muchas cosas que hasta ahora eran impensables o inaccesibles. • También lleva una serie de riesgos asociados. Introducción 01 8

Slide 9

Slide 9 text

Riesgos IA imanolteran.com • Su irrupción no está exenta de polémica: • El robot conversacional ChatGPT aprueba el examen de la facultad de Derecho de Estados Unidos • Una famosa universidad francesa prohibe el uso de ChatGPT o de la IA • Nueva York prohibe ChatGPT en los colegios • Universidades australianas revisan sus métodos de evaluación • Los profesores de Málaga apuestan por la inteligencia artificial ChatGPT • Nuevos retos para el profesorado en la era de la inteligencia artificial Introducción 01 9

Slide 10

Slide 10 text

Riesgos IA imanolteran.com • Su irrupción no está exenta de polémica: • The Kindle Store has a prolific new author: ChatGPT • “Obligo a usar ChatGPT en mis clases”. Así es la irrupción inexorable de la nueva IA a las aulas • El sueño de China de tener su propio ChatGPT tiene un obstáculo: las severas restricciones comerciales de EEUU • Los cientos de miles de trabajadores en países pobres que hacen posible la existencia de sistemas de inteligencia artificial como ChatGPT (y por qué generan controversia) Introducción 01 10

Slide 11

Slide 11 text

Riesgos IA imanolteran.com • No se para de hablar de IA • ChatGPT llega a Slack: lo que puedes hacer con esta IA en tu día a día en el trabajo • ChatGPT ahora está disponible en Azure • DuckDuckGo está construyendo respuestas con IA en su buscador • Discord y OpenAI han llegado a un acuerdo para usar la IA de ChatGPT como bot especial en sus grupos. • Uno de los fundadores de OpenAI sale la compañía para evitar conflictos de intereses Introducción 01 11

Slide 12

Slide 12 text

Riesgos IA imanolteran.com • No se para de hablar de IA • La Casa Blanca apoyará un hackeo masivo para poner a raya los chatbots de inteligencia artificial • Biden cita las tecnológicas en la Casa Blanca para intentar que no se descontrole la IA • La industria china de inteligencia artificial resiste pese al veto de EEUU a la exportación de chips Introducción 01 12

Slide 13

Slide 13 text

Riesgos IA imanolteran.com • No se para de hablar de IA • Petición de parar 6 meses el desarrollo de IA. • AEPD abre investigación sobre ChatGPT. • ChatGPT baneado en Italia • Google deja a la UE fuera de su nueva inteligencia artificial • Luz verde para la nueva ley de inteligencia artificial de Europa: así te va a afectar Introducción 01 13

Slide 14

Slide 14 text

Riesgos IA imanolteran.com • No se para de hablar de IA • Apple prohibe el uso de ChatGPT • ChatGPT no sabe guardar un secreto • AppleGPT está en camino Introducción 01 14

Slide 15

Slide 15 text

Riesgos IA imanolteran.com • No se para de hablar de IA • La Unesco pide reglas sobre el uso de la IA en las escuelas • Microsoft anuncia un nuevo compromiso de derechos de autor de Copilot para los clientes • A casi un año de ChatGPT, ¿qué piensan los directivos escolares de la inteligencia artificial? • La Agencia Española de Inteligencia Artificial estará funcionando en 3 meses como máximo Introducción 01 15

Slide 16

Slide 16 text

Riesgos IA imanolteran.com • No se para de hablar de IA • Israel falsely accused of sharing fake images of Hamas atrocities using AI • Decenas de menores de Extremadura denuncian que circulan fotos de falsos desnudos suyos creadas por inteligencia artificial: “Me dio un vuelco el corazón” • Estos son los 15 mayores riesgos de la IA • Identifying AI-generated images with SynthID • X responde a la críticas sobre las fake news sobre Israel y Hamas Introducción 01 16

Slide 17

Slide 17 text

Riesgos IA imanolteran.com Introducción 01 17

Slide 18

Slide 18 text

Riesgos IA imanolteran.com Introducción 01 18

Slide 19

Slide 19 text

Riesgos IA imanolteran.com Introducción 01 19

Slide 20

Slide 20 text

Riesgos IA imanolteran.com • ¿De dónde salen los datos de entrenamiento de los grandes modelos de lenguaje? Introducción 01 20 FUENTES DE LOS DATOS

Slide 21

Slide 21 text

Riesgos IA imanolteran.com Introducción 01 21

Slide 22

Slide 22 text

imanolteran.com 02Riesgos De seguridad Riesgos IA

Slide 23

Slide 23 text

imanolteran.com Riesgos IA

Slide 24

Slide 24 text

Riesgos IA imanolteran.com • Privacidad de los datos y confidencialidad de la información. • Manipulación de información y desinformación. • Vulnerabilidad frente a ataques cibernéticos. • Suplantación de identidad. • Phising. • Perpetuación de sesgos. Riesgos 02 24

Slide 25

Slide 25 text

imanolteran.com PRIVACIDAD

Slide 26

Slide 26 text

Riesgos IA imanolteran.com • Extracción de atributos sensibles: • Los modelos de IA pueden inferir información protegida como orientación sexual, origen étnico, creencias políticas, entre otros, a partir de datos supuestamente anónimos. • Identificación de individuos: • Técnicas de IA permiten reidentificar a personas en conjuntos de datos anonimizados al cruzar datos con otras fuentes. • Vigilancia predictiva: • El análisis de patrones con IA facilita la vigilancia masiva y la predicción del comportamiento de individuos. Riesgos 02 26 PRIVACIDAD DE LOS DATOS

Slide 27

Slide 27 text

Riesgos IA imanolteran.com • Discriminación algorítmica: • Decisiones automatizadas sobre individuos basadas en correlaciones espúreas encontradas por modelos de IA. • Vulnerabilidad de datos de entrenamiento: • Los conjuntos de datos usados para entrenar modelos de IA con frecuencia contienen información sensible insuficientemente protegida. Riesgos 02 27 PRIVACIDAD DE LOS DATOS

Slide 28

Slide 28 text

Riesgos IA imanolteran.com • Consecuencias: • Pérdida de autonomía y libertad individual. • Negación de oportunidades basada en predicciones sesgadas. • Manipulación comercial y política. • Normalización de la vigilancia omnipresente. Riesgos 02 28 PRIVACIDAD DE LOS DATOS

Slide 29

Slide 29 text

Riesgos IA imanolteran.com • Posibles soluciones: • Anonimización y encriptación robusta de datos. • Transparencia en el uso de datos personales. • Controles de acceso estrictos a datos de entrenamiento. • Consentimiento informado para procesamiento de datos sensibles. • Supervisión humana de predicciones algorítmicas. Riesgos 02 29 PRIVACIDAD DE LOS DATOS

Slide 30

Slide 30 text

imanolteran.com DESINFORMACIÓN

Slide 31

Slide 31 text

Riesgos IA imanolteran.com • Personalización de fakes. • Automatización de generación y difusión. • Evadir verificadores. Riesgos 02 31 DESINFORMACIÓN

Slide 32

Slide 32 text

Riesgos IA imanolteran.com • Consecuencias • Polarización social y política extrema. • Desconfianza en instituciones y medios. • Manipulación de opinión pública. • Interferencia en procesos democráticos. • Normalización de discursos radicales. Riesgos 02 32 DESINFORMACIÓN

Slide 33

Slide 33 text

Riesgos IA imanolteran.com • Posibles soluciones • Alfabetización mediática y pensamiento crítico en los usuarios. • Sistemas robustos de detección de desinformación. • Regulación de plataformas para frenar difusión viral. • Transparencia en fuentes de información. • Verificación de hechos por organizaciones creíbles. • Responsabilidad social de generadores de contenido IA. Riesgos 02 33 DESINFORMACIÓN

Slide 34

Slide 34 text

imanolteran.com VULNERABILIDADES

Slide 35

Slide 35 text

Riesgos IA imanolteran.com • Backdoors • Durante el entrenamiento se puede insertar una puerta trasera en el modelo que permite tomar el control cuando se activa con un input especial. • Datos envenenados: • Inyectar datos maliciosos en el conjunto de entrenamiento hace que el modelo aprenda asociaciones peligrosas. Por ejemplo, relacionar individuos con características negativas. Riesgos 02 35 VULNERABILIDAD ANTE ATAQUES

Slide 36

Slide 36 text

Riesgos IA imanolteran.com • Extracción de datos: • Mediante consultas repetidas, obtener información sobre el conjunto de entrenamiento del modelo. • Ataques de caja negra: • Sin acceso al modelo, encontrar entradas que provocan fallos por medio de experimentación. Riesgos 02 36 VULNERABILIDAD ANTE ATAQUES

Slide 37

Slide 37 text

Riesgos IA imanolteran.com • Consecuencias • Discriminación algorítmica. • Fugas de información sensible. • Evasión de sistemas de detección de amenazas. Riesgos 02 37 VULNERABILIDAD ANTE ATAQUES

Slide 38

Slide 38 text

Riesgos IA imanolteran.com • Posibles soluciones • Criptografía y privacidad diferencial • Monitoreo de consulta API • Restringir acceso a modelos • Reentrenar regularmente con nuevos datos Riesgos 02 38 VULNERABILIDAD ANTE ATAQUES

Slide 39

Slide 39 text

imanolteran.com DEEPFAKES

Slide 40

Slide 40 text

Riesgos IA imanolteran.com 02

Slide 41

Slide 41 text

Riesgos IA imanolteran.com 02

Slide 42

Slide 42 text

Riesgos IA imanolteran.com 02

Slide 43

Slide 43 text

Riesgos IA imanolteran.com 02

Slide 44

Slide 44 text

Riesgos IA imanolteran.com • Vídeos y audios falsos hiperrealistas generados por IA que pueden utilizarse para estafas y extorsión. • Vamos a un mundo extremadamente complejo en este sentido. • Muy sencillo suplantar identidades. Riesgos 02 44 DEEPFAKES

Slide 45

Slide 45 text

Riesgos IA imanolteran.com • Suplantación de identidad: • Se puede imitar voces, caras y conductas de personas para acciones fraudulentas o difamatorias. • Desinformación: • Los deepfakes son difíciles de distinguir de contenidos auténticos, lo que facilita la propagación de noticias falsas. Riesgos 02 45 DEEPFAKES

Slide 46

Slide 46 text

Riesgos IA imanolteran.com • Manipulación política: • Influenciar elecciones o procesos democráticos con videos de líderes falsos. • Chantaje y extorsión: • Amenazar a personas con crear contenido fake comprometedor para extorsionarlas. Riesgos 02 46 DEEPFAKES

Slide 47

Slide 47 text

Riesgos IA imanolteran.com • Normalización: • La proliferación de deepfakes puede erosionar la confianza social en evidencia real. • Vigilancia ilícita: • Sintetizar rostros reales en escenarios y actividades comprometedoras sin consentimiento. Riesgos 02 47 DEEPFAKES

Slide 48

Slide 48 text

Riesgos IA imanolteran.com • Posibles soluciones: • Tecnologías de detección avanzadas. • Plataformas para rastrear y exhibir deepfakes conocidos. • Alfabetización digital para identificar señales de alerta. Riesgos 02 48 DEEPFAKES

Slide 49

Slide 49 text

Riesgos IA imanolteran.com • Posibles soluciones: • Regulación para disuadir y penalizar usos dolosos. • Metadatos de autenticación en contenidos legítimos. • Responsabilidad de plataformas en remover deepfakes dañinos. Riesgos 02 49 DEEPFAKES

Slide 50

Slide 50 text

imanolteran.com PHISING

Slide 51

Slide 51 text

Riesgos IA imanolteran.com • La IA puede generar emails de phishing extremadamente convincentes, engañando incluso a usuarios experimentados. • Además, puede hacerlo de forma más rápida y en cualquier idioma. • Los envíos pueden programarse y automatizarse. Riesgos 02 51 PHISING

Slide 52

Slide 52 text

Riesgos IA imanolteran.com • Personalización avanzada: • Los estafadores pueden usar información personal recopilada para crear emails dirigidos que parecen genuinos. • Imitación de identidad: • Clonar de forma precisa la escritura y estilo de comunicación de ejecutivos para solicitar transferencias fraudulentas. Riesgos 02 52 PHISING

Slide 53

Slide 53 text

Riesgos IA imanolteran.com • Llamadas falsas automatizadas: • Usar voces generadas por IA para hacer llamadas telefónicas que suenan reales. • Evadir filtros de spam: • Variar ligeramente elementos del phishing para que pasen desapercibidos frente a filtros antispam actuales. Riesgos 02 53 PHISING

Slide 54

Slide 54 text

Riesgos IA imanolteran.com • Sitios web clones: • Replicar con gran detalle el diseño y contenido de páginas legítimas para robar credenciales. • Campañas masivas automatizadas: • La IA permite personalizar y enviar grandes volúmenes de phishing rápidamente. Riesgos 02 54 PHISING

Slide 55

Slide 55 text

Riesgos IA imanolteran.com • Posibles soluciones: • Sistemas de detección específicos para contenido sintético. • Analizar metadatos y artefactos en contenido generado por IA. • Entrenar al personal para identificar señales de alerta. • Verificación multidimensional de identidad de remitentes. • Restringir permisos y monitorizar el acceso a datos sensibles. Riesgos 02 55 PHISING

Slide 56

Slide 56 text

imanolteran.com PERPETUAR SESGOS

Slide 57

Slide 57 text

Riesgos IA imanolteran.com • Sesgos en los datos de entrenamiento: • Si los datos contienen prejuicios sociales y estereotipos, el modelo aprenderá estos sesgos. • Falta de diversidad en los datos: • Conjuntos de datos que no representan equitativamente diferentes grupos pueden llevar a modelos sesgados. Riesgos 02 57 PERPETUACIÓN DE SESGOS

Slide 58

Slide 58 text

Riesgos IA imanolteran.com • Falta de transparencia: • Los sesgos en modelos de caja negra son difíciles de auditar. • Realimentación de ciclos: • Una vez desplegados, los sesgos en los modelos se refuerzan con el uso continuado. Riesgos 02 58 PERPETUACIÓN DE SESGOS

Slide 59

Slide 59 text

Riesgos IA imanolteran.com • Consecuencias: • Discriminación en préstamos, empleo, vivienda, seguros y justicia penal. • Perpetuación de estereotipos dañinos sobre género y grupos marginalizados. • Violación del derecho a la no discriminación. • Decisiones injustas que niegan oportunidades vitales. Riesgos 02 59 PERPETUACIÓN DE SESGOS

Slide 60

Slide 60 text

Riesgos IA imanolteran.com • Posibles soluciones: • Auditorías algorítmicas continuas para detectar sesgos. • Diversidad, equidad e inclusión en equipos de desarrollo de IA. • Entrenar modelos sobre conjuntos de datos representativos y sin sesgos. • Transparencia en conjuntos de entrenamiento y modelos. • Supervisión humana de decisiones automatizadas. Riesgos 02 60 PERPETUACIÓN DE SESGOS

Slide 61

Slide 61 text

imanolteran.com 03Legislación En qué punto estamos Riesgos IA

Slide 62

Slide 62 text

Riesgos IA imanolteran.com Legislación 03 62 • Leyes de patentes: • Algunos países como el Reino Unido y los Estados Unidos han propuesto legislación para proteger los sistemas de IA que generan una invención mediante un proceso implementado por ordenador. • La propiedad de la patente se atribuiría a quien haya entrenado el algoritmo o proporcionado los datos utilizados para el entrenamient o . • Posición de la Unión Europea: • La Unión Europea considera que los sistemas de IA son inventores solo si son programados por humano s .

Slide 63

Slide 63 text

Riesgos IA imanolteran.com Legislación 03 63 • Derechos de autor: • Si un programa informático genera una nueva invención patentable, es la persona que creó el programa la que posee la invención, no el propio programa. Lo mismo ocurre con los derechos de auto r . • Propiedad intelectual de las obras generadas por la IA: • Obras generadas por un software que ha sido entrenado con algún tipo de aportación humana. • Obras generadas únicamente por la IA, sin ninguna aportación human a .

Slide 64

Slide 64 text

Riesgos IA imanolteran.com Legislación 03 64 • Posición de la Oficina de Derechos de Autor de EE.UU.: • Las obras generadas por la IA pueden ser objeto de derechos de autor si implican algún tipo de aportación humana, pero no si son generadas de forma totalmente automática por un algoritm o . • Puntos de controversia: • No está claro cuánto trabajo humano se ha dedicado a desarrollar los datos de entrenamiento de una red neuronal. • Incertidumbre sobre la situación de los algoritmos con múltiples capas de datos de entrenamiento, donde un algoritmo entrena a otro.

Slide 65

Slide 65 text

Riesgos IA imanolteran.com Legislación 03 65 • AI ACT • DSA • AI BILL OF RIGHTS • How governments are looking to regulate AI

Slide 66

Slide 66 text

imanolteran.com 04Buenas prácticas Y medidas para limitar riesgos Riesgos IA

Slide 67

Slide 67 text

Riesgos IA imanolteran.com 1. Sé transparente sobre el uso de IA generativa. Si generas contenido con IA, comunícalo. Esto crea confianza y evita confusión. 2. Ten cuidado con sesgos y desinformación. Evalúa críticamente el contenido generado por IA para detectar posibles sesgos o información falsa. Entrena los modelos con datos diversos y de buena calidad. 3. Respeta los derechos de autor y la propiedad intelectual. No reclames la autoría de contenido generado por IA, y ten cuidado de no infringir derechos de autor. Buenas prácticas 04 67

Slide 68

Slide 68 text

Riesgos IA imanolteran.com 4. Supervisa el contenido generado. Revisa manualmente el contenido de IA antes de publicarlo para detectar errores, contenido inapropiado o posible plagio. 5. Sé responsable con datos sensibles. Ten cuidado al generar contenido relacionado con finanzas, salud o identidades personales. Sigue las leyes de privacidad de datos. 6. Proporciona contexto y atribución. Si publicas contenido de IA, indica claramente que fue generado por IA y proporciona el contexto adecuado para evitar malentendidos. Buenas prácticas 04 68

Slide 69

Slide 69 text

Riesgos IA imanolteran.com 7. Ten un proceso de gobernanza. Establece pautas claras para el uso ético y responsable de herramientas de IA generativa dentro de su organización. 8. Actualiza modelos de IA regularmente. Los sesgos y errores pueden reducirse entrenando los modelos con nuevos datos de forma continua. Buenas prácticas 04 69

Slide 70

Slide 70 text

imanolteran.com 05Conclusiones Consideraciones finales Riesgos IA

Slide 71

Slide 71 text

Riesgos IA imanolteran.com • El mundo, tal y como lo conocíamos, ha cambiado. • Hay que adaptarse, aprender cómo funcionan estas tecnologías. • Hacer un uso responsable. • Verificar información. Conclusiones 05 71

Slide 72

Slide 72 text

imanolteran.com Riesgos IA En esta presentación encontrarás contenido, tanto en formato texto como imagen, creado con herramientas de IA como: ChatGPT, Anthropic Claude, DALL·E 3 y RunwayML