Machine Learning et Régulation Numérique

Transcript

1. Machine Learning & Régulation Numérique Didier Girard / Guillaume Laforge
2. SPAM
3. RECOMMENDATIONS
4. 2011 rank Company 2009 2010 2011 1 Netflix 0.0 % 0.5 % 44.0 % 2 Apple 71.5 % 60.8 % 32.3 % 3 Microsoft 11.2 % 16.7 % 7.6 % 4 Vudu (Walmart) 0.5 % 2.7 % 4.2 % 5 Sony 5.4 % 6.8 % 2.4 % Others 11.4 % 12.6 % 9.5 % Total 89 % 87 % 90 % “Voici mon catalogue” vs “J’ai une video pour vous.”
6. Yup, NSA does!
7. Toutes les données, tu récolteras #MixIT14
8. data machine learning
9. Définition
11. Définition Une branche de l’intelligence artificielle qui s’occupe de la construction et l’étude de systèmes qui apprennent à partir de données
12. Le parallèle de l’accordeur de piano Data Accordeur Modèle
13. Les grandes familles Supervisé vs non-supervisé
14. Supervisé Régression, classification...
15. Régression http://en.wikipedia.org/wiki/Regression_analysis Un modèle de regression relie Y à une fonction de X et ß Son Touches Accordeur
16. Régression linéaire http://en.wikipedia.org/wiki/Linear_regression
17. Régression linéaire
18. Régression linéaire
19. Régression linéaire
20. Régression linéaire
21. Régression linéaire
22. ATTENTION corrélation ≠ causalité :-)
23. Ta fonction de coût, tu minimiseras #MixIT14
24. Fonction de coût
25. Régression
26. Régression — ordre premier
27. Régression — ordre premier ?
28. Régression — ordre second
29. Régression — ordre second ?
30. Classification La classification est le problème d'identifier à quel ensemble de catégories (sous-population) une nouvelle observation correspond http://en.wikipedia.org/wiki/Statistical_classification
31. Classification
32. Classification
33. Non-supervisé Clusterisation, séparation de sources...
34. Clusterisation
35. Clusterisation
36. Clusterisation
37. Séparation de sources Source 1 Source 2
38. Séparation de sources Source 1 Source 2 Observation
39. Séparation de sources Source 1 Source 2 Observation Source séparée 1 Source séparée 2
40. Tes données, tu visualiseras #MixIT14
41. Visualiser
42. N’apprends pas ce que tu sais déjà #MixIT14
43. Ne pas apprendre ce que l’on sait
44. Ne pas apprendre ce que l’on sait
45. Ne pas apprendre ce que l’on sait
46. Ne pas apprendre ce que l’on sait
47. Tes données, tu segmenteras #MixIT14
48. Segmenter Problème : • Je vous donne la latitude et la longitude • Vous devez coder un systeme qui me donne l’altitude 1. un modèle pour toute la France ? 2. un modèle par type de relief ? 3. un modèle par région ?
49. Segmenter
50. Segmenter
51. Tes données, tu pré-traiteras #MixIT14
52. Exemple : Normaliser/Centrer
53. Exemple : Face Recognition http://bitsearch.blogspot.com/2013/02/unsupervised-face-clustering-with-opencv.html
54. Que faire des données manquantes ? • Supprimer la dimension ? • Signaler au système apprenant ?
55. Données aberrantes • Erreur d’observation ? • Cas exceptionnel ?
56. Ton algorithme, tu choisiras #MixIT14
57. k-nearest neighbors Wikipedia
58. Support Vector Machine Wikipedia
59. Random tree forest
60. Neural Networks Wikipedia
61. De l’intuition, tu auras #MixIT14
62. https://www.flickr.com/photos/hills_alive/3368257480/ Comment caractériser l’intuition ? Chasse aux champignons ?
63. Sélectionner les bonnes variables
64. Sélectionner les bonnes variables Consommation • jour de la semaine • vacances scolaires • jours fériés • température Reconnaissance d’image • histogramme de couleur
65. Ton système, tu entraineras #MixIT14
66. Apprendre et généraliser Apprentissage : 60% Généralisation : 40%
67. Par coeur, tu n’apprendras pas #MixIT14
68. Régression — ordre supérieur ? ?
69. Capacité d’apprentissage d’un système Capacité d’apprentissage Complexité des systèmes modélisables Risque de sur- apprentissage
70. Pour aller plus loin : VC-Dimension Trois choses entrent en jeu : • taille de l’échantillon • nombre de paramètres d’ajustement du modèle • nombre de dimensions de l’espace d’entrée
71. Intuition : capacité de généralisation #MixIT14
72. Ton modèle, tu valideras #MixIT14
73. Apprendre, Généraliser et Valider Apprentissage : 60% Généralisation : 20% Validation : 20%
74. Ton modèle, tu exécuteras #MixIT14
75. A un moment ou un autre… il faut se lancer !
77. Les recettes de tonton Moïse pour le ML 1. Enregistrez toutes les données que vous pourrez 2. Observez et visualisez vos données 3. Segmentez vos données 4. Pré-traitez et normalisez vos données 5. Choisissez bien votre algorithme 6. Entrainez votre système 7. Validez votre système 8. Et… exécutez !
78. Quelques outils • R http://www.r-project.org/ • Octave https://www.gnu.org/software/octave/ • SciKit Learn http://scikit-learn.org/ • Apache Mahout https://mahout.apache.org/ • Weka http://www.cs.waikato.ac.nz/ml/weka/ • Google Prediction https://developers.google.com/prediction • Prediction.IO http://prediction.io/ • MADlib http://madlib.net/
79. Conclusion Machine Learning et Régulation Numérique
80. Le Data Scientist de demain est le Physicien Nucléaire d’hier
81. BIG DATA IS SCORING YOU #MixIT14
82. http://money.cnn.com/2014/04/02/pf/consumer-scores/index.html Consumer profitability score Churn score Job security score Medication adherence score Fraud score Customer score Law enforcement score
83. On ne peut pas arrêter la machine...
84. Apprendre et comprendre comment marche le Machine Learning
85. Etre au coeur du système, pour le réguler
86. Les gens éduqués sont les garde-fous des dérives du Machine Learning #MixIT14
87. Le monde est entre vos mains ! A vous de jouer !
88. Didier Girard / Guillaume Laforge @didiergirard @glaforge Merci
89. Didier Girard / Guillaume Laforge @didiergirard @glaforge Questions — réponses