Leçon
La théorie — Explorateur de chaînes de Markov stationnaires
Une distribution est stationnaire lorsqu'un pas de plus ne change rien : πP = π. C'est un point fixe de la matrice de transition — la chaîne continue d'évoluer entre les états, mais les proportions cessent de varier.
Ce que signifie chaque symbole
P- la matrice de transition. L'élément situé à la ligne i, colonne j est la probabilité de passer de l'état i à l'état j, si bien que la somme de chaque ligne doit valoir 1 — ce que la grille ci-dessus vérifie pour vous.
p(0)- la distribution initiale : le point de départ de la chaîne. La valeur par défaut
(1, 0, 0)signifie qu'elle commence dans l'état 1 avec certitude. p(k)- la distribution après k pas, obtenue en multipliant par
Pune fois par pas. π- la distribution stationnaire — celle qui vérifie
πP = π. k- le nombre de pas à effectuer, défini ci-dessus. Le tableau de trajectoire affiche chaque distribution de
p(0)àp(k).
D’où vient la formule
- Exprimez ce que demande la stationnarité : après un pas, la distribution reste inchangée, d'où
πP = π. - En réorganisant, on obtient
π(P − I) = 0— un système d'équations linéaires, à raison d'une par état. À lui seul, ce système possède une infinité de solutions, car tout multiple d'une solution en est aussi une. - Ajoutez la condition qui en fait une distribution de probabilité,
Σπ = 1, et la solution devient unique. Pour la matrice par défaut, elle vaut exactement8/13, 3/13, 2/13— soit les0.615385, 0.230769, 0.153846indiqués ci-dessus.
Comment lire ce que vous voyez
Trois panneaux. p(k) indique où se trouve réellement la chaîne après vos k pas ; π indique sa destination, avec le nombre d'itérations et la mention de convergence ; et la distance à la stationnarité mesure l'écart entre les deux — 0.08893 pour la valeur par défaut k = 8, ce qui explique pourquoi la note indique que la chaîne ne s'est pas encore totalement mélangée. Le tableau de trajectoire ci-dessous montre chaque pas, en partant de (1, 0, 0).
- Suppose
- Un ensemble fini d'états et des probabilités qui ne varient jamais au cours du temps. Le fait que la somme de chaque ligne soit égale à 1 n'est pas une règle de mise en forme, mais l'affirmation que la chaîne doit aller quelque part à chaque pas.
- Ne tient plus quand
- Le
πci-dessus est qualifié d'estimation pour une bonne raison : il est obtenu en faisant évoluer la chaîne de manière répétée — 83 itérations pour la matrice par défaut — et le calcul s'arrête lorsque les distributions successives cessent de varier. Il s'agit d'un critère numérique, et non d'une démonstration. La réponse exacte est ici l'ensemble de rationnels8/13, 3/13, 2/13, et les décimales affichées sont ces valeurs arrondies à six chiffres après la virgule.
Exercice
Vérifiez-vous
Prédisez d’abord la réponse, puis utilisez les commandes ci-dessus pour vérifier. N’affichez la solution qu’après vous être engagé sur une hypothèse : c’est ce qui en fait un exercice.
-
Par défaut, la chaîne démarre avec certitude dans l’état 1,
p(0) = (1, 0, 0). Passez à(0, 0, 1)pour qu’elle parte de l’état 3. Prédisez quels affichages bougent et lesquels non.Afficher la réponse
p(k)et la distance bougent ;πet le nombre d’itérations non. Depuis l’état 1, huit pas atteignent0.659852, 0.218714, 0.121436, une distance de0.08893. Depuis l’état 3, ils atteignent0.522304, 0.255274, 0.222421, une distance de0.18616— plus loin, car l’état 3 est la destination la plus rare. Dans les deux casπaffiche0.615385, 0.230769, 0.153846après les mêmes83itérations. Le point de départ décide où en est la chaîne, jamais où elle va :πP = πne mentionne que la matrice. -
Revenez à
(1, 0, 0)et augmentez le nombre de pas. Au bout de combien la distance à la stationnarité affiche-t-elle0— et la chaîne est-elle alors arrivée ?Afficher la réponse
k = 80affiche0, et non, elle n’y est pas. Dèsk = 40la distance vaut0.000024; les six décimales affichées s’épuisent simplement avant l’écart. Cette chaîne s’approche deπgéométriquement et ne l’atteint jamais en un nombre fini de pas : le0est l’arrondi de l’affichage, la même raison pour laquelleπlui-même est présenté comme une estimation. Comparezk = 8, où la distance est0.08893et la note dit encore que la chaîne n’a pas mélangé.
Problème entièrement résolu
-
Huit étapes d'une chaîne à trois états démarrée à l'état 1 5 étapes
Une chaîne à trois états initialisée entièrement dans l'état 1, exécutée pendant huit étapes. Déterminez vers quoi elle tend et quelle distance il lui reste à parcourir.
-
Une étape est un produit vecteur-matrice : la probabilité de se trouver dans l'état j à l'étape suivante est la somme sur i d'être en i actuellement et de passer de i → j.
-
Huit étapes de ce calcul donnent la distribution affichée par le panneau. L'état 1 détient encore deux tiers de la probabilité, ce qui est beaucoup sachant que la chaîne y a démarré avec certitude.
-
La destination est la distribution stationnaire — celle qu'une étape laisse inchangée. Résoudre πP = π avec la somme des probabilités égale à 1 donne des fractions exactes, des huitièmes et des treizièmes, et non des décimaux.
-
Comparer les deux donne la distance indiquée par le panneau, et elle n'est pas négligeable : après huit étapes, la chaîne est encore distante d'environ 0,089 au total.
-
Cet écart s'amenuise géométriquement, régi par la deuxième plus grande valeur propre de P. Une décroissance géométrique signifie qu'il diminue de moitié en un nombre fixe d'étapes et n'atteint jamais zéro en un nombre fini d'étapes.
Réponse
L'outil affiche 0,65985, 0,218714, 0,121436 après huit étapes, encore éloigné de 0,08893 de la stationnarité. La distribution stationnaire est exactement (8/13, 3/13, 2/13), et le fait à retenir est qu'elle ne dépend pas du point de départ : ces trois mêmes fractions constituent la limite pour toute distribution initiale, ce qui en fait une propriété de la matrice de transition plutôt que de cette exécution particulière. Cette indépendance est ce qui rend les distributions stationnaires utiles : PageRank, l'échantillonnage MCMC et l'occupation des files d'attente reposent tous sur le fait que le résultat à long terme est une propriété des seules règles de transition. Seul le temps nécessaire pour y parvenir dépend du point de départ.
-
Références (1)
- The stationary distribution put to work on the whole web, damping factor and all: S. Brin & L. Page, “The anatomy of a large-scale hypertextual Web search engine.” Computer Networks and ISDN Systems 30, 107–117, 1998.