Lección
La teoría — Explorador de cadenas de Markov estacionarias
Una distribución es estacionaria cuando un paso más no cambia nada: πP = π. Es un punto fijo de la matriz de transición — la cadena se sigue moviendo entre estados, pero las proporciones dejan de cambiar.
Qué significa cada símbolo
P- la matriz de transición. El elemento en la fila i, columna j es la probabilidad de pasar del estado i al estado j, por lo que cada fila debe sumar 1 — algo que la cuadrícula de arriba comprueba por ti.
p(0)- la distribución inicial: donde comienza la cadena. El valor por defecto
(1, 0, 0)significa que empieza en el estado 1 con certeza. p(k)- la distribución tras k pasos, obtenida al multiplicar por
Puna vez por paso. π- la distribución estacionaria — la que satisface
πP = π. k- cuántos pasos dar, fijados arriba. La tabla de trayectoria muestra cada distribución desde
p(0)hastap(k).
De dónde viene la fórmula
- Escribe lo que exige la estacionariedad: tras un paso, la distribución no cambia, por lo que
πP = π. - Reordenado, eso es
π(P − I) = 0— un sistema de ecuaciones lineales, una por estado. Por sí solo tiene infinitas soluciones, porque cualquier múltiplo de una solución también lo es. - Añade la condición que la convierte en una distribución de probabilidad,
Σπ = 1, y la solución queda determinada. Para la matriz por defecto es exactamente8/13, 3/13, 2/13— los0.615385, 0.230769, 0.153846indicados arriba.
Cómo leer lo que ves
Tres paneles. p(k) es donde se encuentra realmente la cadena tras tus k pasos; π es hacia donde se dirige, junto con el número de iteraciones y si convergió; y la distancia a la estacionariedad mide la diferencia entre ambos — 0.08893 con el valor por defecto k = 8, razón por la cual la nota indica que la cadena aún no se ha mezclado del todo. La tabla de trayectoria inferior muestra cada paso, comenzando desde (1, 0, 0).
- Supone
- Un conjunto finito de estados y probabilidades que nunca cambian con el tiempo. Que cada fila sume 1 no es una regla de formato, sino la afirmación de que la cadena debe ir a algún lugar en cada paso.
- Falla cuando
- El
πde arriba está etiquetado como estimación por una razón: se alcanza haciendo avanzar la cadena de forma repetida — 83 iteraciones para la matriz por defecto — y se detiene cuando las distribuciones sucesivas dejan de cambiar. Eso es un criterio numérico, no una demostración. La respuesta exacta aquí es el conjunto de racionales8/13, 3/13, 2/13, y los decimales mostrados son esos mismos valores redondeados a seis cifras.
Práctica
Compruébalo tú mismo
Predice la respuesta primero y luego usa los controles de arriba para comprobarlo. Revela la solución solo cuando te hayas comprometido con una hipótesis: eso es lo que lo convierte en práctica.
-
Por defecto la cadena arranca con certeza en el estado 1,
p(0) = (1, 0, 0). Cámbialo a(0, 0, 1)para que empiece en el estado 3. Predice qué lecturas se mueven y cuáles no.Mostrar la respuesta
p(k)y la distancia se mueven;πy el número de iteraciones no. Desde el estado 1, ocho pasos llegan a0.659852, 0.218714, 0.121436, una distancia de0.08893. Desde el estado 3 llegan a0.522304, 0.255274, 0.222421, una distancia de0.18616— más lejos, porque el estado 3 es el destino más raro. En ambos casosπmarca0.615385, 0.230769, 0.153846tras las mismas83iteraciones. El punto de partida decide cuán avanzada está la cadena, nunca hacia dónde va: enπP = πsolo aparece la matriz. -
Vuelve a
(1, 0, 0)y sube ahora el número de pasos. ¿Con cuántos marca0la distancia a la estacionariedad — y ha llegado entonces la cadena?Mostrar la respuesta
Conk = 80aparece0, y no, no ha llegado. Ya enk = 40la distancia es0.000024; los seis decimales que imprime el panel simplemente se agotan antes que el hueco. Esta cadena se acerca aπgeométricamente y nunca lo alcanza en un número finito de pasos, así que el0es el redondeo de la pantalla — la misma razón por la queπse etiqueta como estimación. Compara conk = 8, donde la distancia es0.08893y la nota aún dice que la cadena no se ha mezclado.
Problema resuelto al detalle
-
Ocho pasos de una cadena de tres estados iniciada en el estado 1 5 pasos
Una cadena de tres estados iniciada por completo en el estado 1, tras ejecutarse durante ocho pasos. Determine hacia dónde se dirige y cuánto le falta aún por recorrer.
-
Un paso es un producto vector-matriz: la probabilidad de estar a continuación en el estado j es la suma sobre i de estar ahora en i y pasar de i → j.
-
Ocho pasos de este proceso dan la distribución que muestra el panel. El estado 1 aún conserva dos tercios de la probabilidad, una cantidad elevada teniendo en cuenta que la cadena comenzó allí con certeza.
-
El destino es la distribución estacionaria: aquella que un paso deja inalterada. Al resolver πP = π haciendo que las probabilidades sumen 1 se obtienen fracciones exactas, octavos y treceavos, no decimales.
-
Al comparar ambas se obtiene la distancia que muestra el panel, y no es pequeña: tras ocho pasos la cadena aún está a una distancia total de unos 0,089.
-
Esa diferencia decrece geométricamente, gobernada por el segundo autovalor más grande de P. El decrecimiento geométrico significa que se reduce a la mitad en un número fijo de pasos y nunca alcanza el cero en un número finito de ellos.
Respuesta
La herramienta muestra 0,65985, 0,218714, 0,121436 tras ocho pasos, aún a 0,08893 de la estacionariedad. La distribución estacionaria es exactamente (8/13, 3/13, 2/13), y el hecho que conviene recordar es que no depende de dónde se haya comenzado: esas mismas tres fracciones son el límite para cualquier distribución inicial, lo que las convierte en una propiedad de la matriz de transición y no de esta ejecución en concreto. Esa independencia es lo que hace útiles a las distribuciones estacionarias: PageRank, el muestreo por MCMC y la ocupación de las colas se basan en que la respuesta a largo plazo es una propiedad exclusiva de las reglas de transición. Solo el tiempo necesario para llegar hasta allí depende del punto de partida.
-
Referencias (1)
- The stationary distribution put to work on the whole web, damping factor and all: S. Brin & L. Page, “The anatomy of a large-scale hypertextual Web search engine.” Computer Networks and ISDN Systems 30, 107–117, 1998.