Que la generación Z no rompa tus modelos @PyConEs19

En el mundo de la moda los roles de género siempre han estado bastante claros, como que " las faldas son prendas de chicas " y "las corbatas son para los hombres" . Ésto, entre otros clichés, han condicionado los algoritmos de etiquetado y clasificación de productos de moda, introduciendo sesgos que ahora pueden jugar en nuestra contra a la hora de predecir tendencias y tomar decisiones estratégicas. En esta charla veremos en qué consisten los sesgos en los modelos de machine learning, algunos métodos en Python para intentar evitarlos y algunas herramientas que auditan dichos modelos en este sentido.

Transcript

1. Que la Generación Z no rompa tus modelos Alicia Pérez | PyConEs 2019 @alipeji | #PyConES19
2. #drama @alipeji | #PyConES19
3. Sesgos en la moda "Si hay algo que caracteriza a la Generación Z es no tener reglas preestablecidas" @alipeji | #PyConES19
4. La generación Z ya está aquí @alipeji | #PyConES19
5. Marcas genderless @alipeji | #PyConES19
6. Las firmas low cost también se sumaron al fenómeno genderless @alipeji | #PyConES19
7. ¿Están nuestros modelos preparados?
8. @alipeji | #PyConES19
9. @alipeji | #PyConES19
10. @alipeji | #PyConES19
11. @alipeji | #PyConES19
12. @alipeji | #PyConES19
13. @alipeji | #PyConES19
14. @alipeji | #PyConES19
15. @alipeji | #PyConES19
16. @alipeji | #PyConES19
17. @alipeji | #PyConES19
18. @alipeji | #PyConES19
19. Explicabilidad de los modelos de Machine Learning ¿En base a qué toman sus decisiones? @alipeji | #PyConES19
20. Sesgos inconscientes @alipeji | #PyConES19 upworthy.com
21. Efecto Clever Hans [...] la posibilidad de que el experimentador “contamine” involuntariamente los resultados del experimento mediante gestos, tonos de voz, lenguaje corporal, etc. Wikipedia @alipeji | #PyConES19 wikipedia.org
22. @alipeji | #PyConES19
23. El algoritmo detectaba los raíles, no los trenes Imágenes de trenes @alipeji | #PyConES19 phys.org
24. error: 1% error: 12% error: 35% error: 7% @alipeji | #PyConES19 nytimes.com
25. @alipeji | #PyConES19 theverge.com
26. @alipeji | #PyConES19 cmu.edu
27. Prodata vs Compas @alipeji | #PyConES19 propublica.org
28. Cómo combatir los sesgos Técnicas y herramientas en Python @alipeji | #PyConES19
29. Técnicas de Interpretación de modelos @alipeji | #PyConES19
30. Permutation Importance @alipeji | #PyConES19 kaggle.com
31. Partial Dependence Plots (PDP) @alipeji | #PyConES19 kaggle.com
32. SHAP Values SHapley Additive exPlanations @alipeji | #PyConES19 cmu.edu
33. Herramientas en Python @alipeji | #PyConES19
34. FairML @alipeji | #PyConES19 blog.fastforwardlabs.com
35. lime @alipeji | #PyConES19 arxiv.org
36. What-If Dashboard @alipeji | #PyConES19 pair-code.github.io
37. IBM AI Fairness 360 @alipeji | #PyConES19 aif360.mybluemix.net
38. Demo @alipeji | #PyConES19
39. En resumen... @alipeji | #PyConES19
40. Sesgos Los datos introducen sesgos en nuestros modelos Métodos en Python Ej. permutation importance & PDP Moda Los modelos tienen sesgos que debemos corregir para que en un corto plazo no queden deprecados Herramientas Ej. FairML, lime, What-IF, IBM AIF 360 @alipeji | #PyConES19
41. ¡Gracias! @alipeji | #PyConES19 alicia@stylesage.co Que la Generación Z no rompa tus modelos https:/ /github.com/aliciapj/ml_bias