Lektion
Die Theorie — Explorer für stationäre Markow-Ketten
Eine Verteilung ist stationär, wenn ein weiterer Schritt nichts mehr ändert: πP = π. Sie ist ein Fixpunkt der Übergangsmatrix — die Kette bewegt sich zwar weiterhin zwischen den Zuständen, aber die Anteile verändern sich nicht mehr.
Was die einzelnen Symbole bedeuten
P- die Übergangsmatrix. Der Eintrag in Zeile i, Spalte j ist die Wahrscheinlichkeit für einen Übergang von Zustand i zu Zustand j, sodass jede Zeile in der Summe 1 ergeben muss — was das obige Gitter für dich prüft.
p(0)- die Startverteilung: der Ausgangspunkt der Kette. Der Standardwert
(1, 0, 0)bedeutet, dass sie mit Sicherheit in Zustand 1 beginnt. p(k)- die Verteilung nach k Schritten, die man durch schrittweises Multiplizieren mit
Perhält. π- die stationäre Verteilung — diejenige, die
πP = πerfüllt. k- wie viele Schritte ausgeführt werden, oben eingestellt. Die Trajektorientabelle zeigt jede Verteilung von
p(0)bisp(k).
Woher die Formel kommt
- Formuliere die Bedingung für Stationarität: Nach einem Schritt bleibt die Verteilung unverändert, also
πP = π. - Umgeformt ergibt das
π(P − I) = 0— ein lineares Gleichungssystem mit einer Gleichung pro Zustand. Für sich genommen hat es unendlich viele Lösungen, da jedes Vielfache einer Lösung ebenfalls eine Lösung ist. - Fügt man die Bedingung hinzu, dass es sich um eine Wahrscheinlichkeitsverteilung handelt,
Σπ = 1, ist die Lösung eindeutig bestimmt. Für die Standardmatrix lautet sie exakt8/13, 3/13, 2/13— das oben angegebene0.615385, 0.230769, 0.153846.
So liest du, was du siehst
Drei Panels. p(k) zeigt, wo sich die Kette nach deinen k Schritten tatsächlich befindet; π ist der Zustand, auf den sie zusteuert, samt Iterationszahl und Konvergenzstatus; und der Abstand zur Stationarität misst die Abweichung zwischen beiden — 0.08893 beim Standardwert k = 8, weshalb im Hinweis steht, dass die Kette noch nicht vollständig durchmischt ist. Die Trajektorientabelle unten zeigt jeden Schritt ausgehend von (1, 0, 0).
- Setzt voraus
- Eine endliche Zustandsmenge und Übergangswahrscheinlichkeiten, die sich im Laufe der Zeit nicht verändern. Dass jede Zeile die Summe 1 ergibt, ist keine Formatierungsregel, sondern die Aussage, dass die Kette bei jedem Schritt irgendwohin wechseln muss.
- Versagt, wenn
- Das obige
πwird aus gutem Grund als Schätzung bezeichnet: Es wird durch wiederholtes Ausführen der Kette erreicht — 83 Iterationen bei der Standardmatrix — und gestoppt, wenn sich aufeinanderfolgende Verteilungen nicht mehr verändern. Das ist eine numerische Beurteilung, kein Beweis. Die exakte Lösung ist hier die Menge der Brüche8/13, 3/13, 2/13, und die angezeigten Dezimalzahlen sind diese auf sechs Nachkommastellen gerundet.
Übung
Prüfe dich selbst
Sage die Antwort zuerst voraus und probiere es dann oben aus. Zeige die Lösung erst, wenn du dich entschieden hast — genau das macht es zur Übung.
-
Standardmäßig startet die Kette mit Sicherheit in Zustand 1,
p(0) = (1, 0, 0). Ändere das auf(0, 0, 1), sodass sie stattdessen in Zustand 3 beginnt. Sag vorher, welche Anzeigen sich ändern und welche nicht.Antwort anzeigen
p(k)und der Abstand ändern sich;πund die Iterationszahl nicht. Von Zustand 1 aus erreichen acht Schritte0.659852, 0.218714, 0.121436, ein Abstand von0.08893. Von Zustand 3 aus erreichen sie0.522304, 0.255274, 0.222421, ein Abstand von0.18616— weiter entfernt, denn Zustand 3 ist das seltenste Ziel. Beide Male zeigtπnach denselben83Iterationen0.615385, 0.230769, 0.153846. Der Startpunkt entscheidet, wie weit die Kette ist, nie wohin sie läuft: InπP = πkommt nur die Matrix vor. -
Zurück zu
(1, 0, 0), und erhöhe nun die Schrittzahl. Nach wie vielen Schritten zeigt der Abstand zur Stationarität0— und ist die Kette dann angekommen?Antwort anzeigen
Beik = 80steht dort0, und nein, sie ist es nicht. Schon beik = 40beträgt der Abstand0.000024; die sechs Nachkommastellen der Anzeige gehen einfach vor der Lücke aus. Diese Kette nähert sichπgeometrisch und erreicht es in endlich vielen Schritten nie, die0ist also die Rundung der Anzeige — aus demselben Grund ist auchπselbst als Schätzwert ausgewiesen. Vergleichek = 8, wo der Abstand0.08893ist und der Hinweis noch sagt, die Kette sei nicht durchmischt.
Aufgabe vollständig gelöst
-
Acht Schritte einer Kette mit drei Zuständen, gestartet in Zustand 1 5 Schritte
Eine Kette mit drei Zuständen, vollständig in Zustand 1 gestartet und über acht Schritte ausgeführt. Bestimmen Sie, wohin sie strebt und wie weit sie noch vom Ziel entfernt ist.
-
Ein Schritt ist ein Vektor-Matrix-Produkt: Die Wahrscheinlichkeit, als Nächstes in Zustand j zu sein, ist die Summe über i, sich jetzt in i zu befinden und von i → j zu wechseln.
-
Acht solche Schritte ergeben die in der Anzeige dargestellte Verteilung. Auf Zustand 1 entfallen nach wie vor zwei Drittel der Wahrscheinlichkeit – viel, wenn man bedenkt, dass die Kette dort mit Sicherheit gestartet ist.
-
Das Ziel ist die stationäre Verteilung – jene, die durch einen Schritt unverändert bleibt. Das Lösen von πP = π mit der Bedingung, dass sich die Wahrscheinlichkeiten zu 1 aufsummieren, liefert exakte Brüche, Achtel und Dreizehntel, keine Dezimalbrüche.
-
Der Vergleich der beiden ergibt den von der Anzeige gemeldeten Abstand, und dieser ist nicht klein: Nach acht Schritten ist die Kette insgesamt noch etwa 0,089 entfernt.
-
Diese Lücke schrumpft geometrisch, bestimmt durch den zweitgrößten Eigenwert von P. Geometrischer Zerfall bedeutet, dass sie sich in einer festen Anzahl von Schritten halbiert und in endlich vielen Schritten niemals Null erreicht.
Antwort
Das Werkzeug gibt nach acht Schritten 0,65985, 0,218714, 0,121436 aus, immer noch 0,08893 von der Stationarität entfernt. Die stationäre Verteilung lautet exakt (8/13, 3/13, 2/13), und festzuhalten bleibt, dass sie nicht davon abhängt, wo man gestartet ist: Dieselben drei Brüche bilden den Grenzwert für jede Startverteilung, was sie zu einer Eigenschaft der Übergangsmatrix und nicht dieses speziellen Durchlaufs macht. Diese Unabhängigkeit macht stationäre Verteilungen so nützlich: PageRank, MCMC-Stichprobenziehung und die Belegung von Warteschlangen beruhen alle darauf, dass das langfristige Ergebnis allein eine Eigenschaft der Übergangsregeln ist. Nur die Zeit, die benötigt wird, um dorthin zu gelangen, hängt vom Start ab.
-
Quellen (1)
- The stationary distribution put to work on the whole web, damping factor and all: S. Brin & L. Page, “The anatomy of a large-scale hypertextual Web search engine.” Computer Networks and ISDN Systems 30, 107–117, 1998.