Que la generación Z no rompa tus modelos @T3chDays

El mundo de la moda siempre ha estado lleno de clichés de género, como que "el rosa es cosa de niñas y el azul, de niños". Y no sólo encontramos sesgos de género: en occidente la imagen de una boda suele incluir a una mujer de blanco y un hombre de traje oscuro, lo cual no refleja la realidad en otras culturas. Estos, entre otros clichés, han condicionado los algoritmos de etiquetado y clasificación de productos de moda, introduciendo sesgos que ahora pueden jugar en nuestra contra a la hora de predecir tendencias, sobre todo con la llegada de la famosa "generación Z". En esta charla veremos qué es la explicabilidad de algoritmos, en qué consisten los sesgos en los modelos de machine learning y métodos para intentar evitarlos.

Transcript

1. Que la Generación Z no rompa tus modelos Alicia Pérez
2. ¡Hola! soy Alicia Pérez @alipeji Ing. informática en Data Scientist en Coorganizadora de
3. Agenda Sesgos y justicia en AI Generación Z y moda IA Explicable / XAI Mitigando los sesgos Conclusiones y reflexiones
4. Sesgos y justicia en AI AKA bias and fairness
6. Perros Gatos
7. Imágenes de trenes phys.org El algoritmo detectaba los raíles, no los trenes
8. Generación Z y moda "Si hay algo que caracteriza a la Generación Z es no tener reglas preestablecidas"
9. StyleSage: Moda + IA
10. StyleSage: Moda + IA
12. woman - 0.991 girl - 0.953 woman - 0.913 girl - 0.953 man - 0.818
13. man - 0.959 man - 0.975 woman - 0.928
14. groom, wedding, bride, love, bridal, engagement, marriage, romance... kimono, geisha, samurai, movie, costume, retro...
15. Javier Ordoñez Beatriz Gómez Ignacio Aguado Iwona Sobieraj El equipo ♥
16. IA Explicable / XAI ¿En base a qué toman sus decisiones?
17. Negativos Positivos
18. Negativo Negativo Positivo Positivo
19. StyleSage Fashion MNIST
20. Método global: Activation Layers
21. Método global: Activation Layers
22. Keras viz - Saliency Keras viz - GradCam SHAP Values LIME
23. Saliency GradCam SHAP LIME
24. Detectando y mitigando el sesgo
25. +500M products +1500M images +1M new / week +100 ML models
26. Intersección con bounding boxes
27. Intersección con bounding boxes
28. Pero ojo con la corbata fantasma...
29. ¿Cómo mitigar el sesgo?
30. Conclusiones y reflexiones ¿Y ya está?
31. El sesgo de la clasificación 50!
34. El interés por la neurociencia
36. ¡Gracias! @alipeji https:/ /aliciapj.github.io/talks Que la Generación Z no rompa tus modelos