Akaike's AIC presentation, by Rozan Karagoz

reading seminar, TSI Master program, Université Paris-Dauphine, Dec. 1, 2013

Transcript

1. Hirotugu Akaike, Member, IEEE A New Look at the Statistical Model Identification
2. Plan  Introduction  Test d’hypothèse: Séries chronologiques  De l’approche directe au modèle de contrôle de l’erreur.  Moyenne de la Log-Vraisemblance comme une mesure d’ajustement  Conclusion
3. Plan  Introduction  Test d’hypothèse: Séries chronologiques  De l’approche directe au modèle de contrôle de l’erreur.  Moyenne de la Log-Vraisemblance comme une mesure d’ajustement  Exemples  Conclusion
4. Introduction  Modèles Classiques  Neyman-Pearson  Inadéquation des ces tests d’hypothèses avec les procédures d’approximation  Nouvelle perspective: Méthode du Maximum de vraisemblance
5. Introduction  Modèles Classiques  Neyman-Pearson  Inadéquation des ces tests d’hypothèses avec les procédures d’approximation  Nouvelle perspective: Méthode du Maximum de vraisemblance appliquée à des modèles à plusieurs fonctions de densité.
6. Introduction  Formule 1  Formule 2 AIC
7. Introduction  MAICE estimateur du minimum d’AIC  Intérets du MAICE
8. Introduction “Tous les modèles sont faux mais certains sont utiles” George Box
9.  Introduction  Test d’hypothèse: Séries chronologiques  De l’approche directe au modèle de contrôle de l’erreur.  Moyenne de la Log-Vraisemblance comme une mesure d’ajustement  Exemples  Conclusion
10. Test d’hypothèses: Séries chronologiques  Principaux modèles statistiques pour l’étude de séries temporelles  Critère d’information
11. Test d’hypothèses: Séries chronologiques  Principaux modèles statistiques pour l’étude de séries temporelles  ModèlesAutorégressifs(AR)
12. Test d’hypothèses: Séries chronologiques  Principaux modèles statistiques pour l’étude de séries temporelles  ModèlesAutorégressifs(AR)  Modèles Moyennes Mobiles(MA)
13. Test d’hypothèses: Séries chronologiques  Principaux modèles statistiques pour l’étude de séries temporelles  ModèlesAutorégressifs(AR)  Modèles Moyennes Mobiles(MA)  ARMA(p,q)
14. Test d’hypothèses: Séries chronologiques  Principaux modèles statistiques pour l’étude de séries temporelles  Critère d’information  Historique
15. Test d’hypothèses: Séries chronologiques  Principaux modèles statistiques pour l’étude de séries temporelles  Critère d’information  Historique  Définition
16. Test d’hypothèses: Séries chronologiques  Principaux modèles statistiques pour l’étude de séries temporelles  Critère d’information  Historique  Définition  Adaptation au modèleARMA(p,q) pour T observations
17.  Exemple
18. .  Pour prévoir l’avenir , il faut connaître le passé, car les événements de ce monde ont en tout termes des liens aux temps qui les ont précédés.
19. De l’approche directe au modèle de contrôle de l’erreur  Régression dans le cas des séries indépendants du temps  Cp de Mallows Cp= Sum (y-yp )2 / s2 - n+2p s: estimateur de la variance y-yp: les résidus yp :est la valeur prévue de y à partir des p régresseurs n : la taille d'échantillon o Cas modèle ajusté Cp~p
20. Estimateurs de Davisson
21. .  Propriétés des auto-corrélations (les équation de Yule- Walker) :
22. De l’approche directe au modèle de contrôle de l’erreur Remarque Une caractéristique commune de ces procédures est que l’analyse des statistiques doit être étendu à l’ordre 1/N.
23. Plan  Introduction  Test d’hypothèse: Séries chronologiques  De l’approche directe au modèle de contrôle de l’erreur.  Moyenne de la Log-Vraisemblance comme une mesure d’ajustement  Exemples  Conclusion
24. Moyenne de la Log-Vraisemblance comme une mesure d’ajustement  Propriété de la moyenne du log-vraisemblance
26. Moyenne de la Log-Vraisemblance comme une mesure d’ajustement  Divergence de Kullback-Leibler
27. .
28. .
29. .  Revenons sur la définition d’un critère d’information.
30. .
31. Remarque  Quand deux modèles de même maximum de vraisemblance, le MAICE se définit comme celui qui a le plus petit nombre de paramètre.
32. Conclusion  L'utilité pratique de la procédure de test d'hypothèse comme une méthode de construction de modèles statistiques ou identification Considéré doit être assez limité.  la moyenne de log-vraisemblance semble être un choix naturel comme le critère de l'ajustement d'un modèle statistique . La procédure sur la base de l'AIC par MAICE qui est une estimation de la log-vraisemblance moyenne fourni une procédure polyvalente pour l'identification du modèle statistique
33. Exemple numérique  Dans la série classique de nombre tache solaire N= 176 dans un modèle AR jusqu’à 35ème ordre MAICE est modèle 8ème ordre.(eighthorder model). AIC atteint à minimum local au seconde ordre. Pour Beveridge ; N=370 index du prix du blé dans un modèle AR jusqu’à 50ème d’ordre MAICE est encore modèle 8ème ordre. AIC atteint à minimum local au seconde ordre(par Sargan) D’après le travaille d’Anderson ,il vaut mieux choisir des modèle à 8ème ordre.
34. Exemple numérique
35. .