Explorador de cadenas de Markov estacionarias

Simulador de matriz de transición con evolución en k pasos e intuición sobre el estado estacionario.

Cargando simulación interactiva...

Lección

La teoría — Explorador de cadenas de Markov estacionarias

Una distribución es estacionaria cuando un paso más no cambia nada: πP = π. Es un punto fijo de la matriz de transición — la cadena se sigue moviendo entre estados, pero las proporciones dejan de cambiar.

Qué significa cada símbolo

P
la matriz de transición. El elemento en la fila i, columna j es la probabilidad de pasar del estado i al estado j, por lo que cada fila debe sumar 1 — algo que la cuadrícula de arriba comprueba por ti.
p(0)
la distribución inicial: donde comienza la cadena. El valor por defecto (1, 0, 0) significa que empieza en el estado 1 con certeza.
p(k)
la distribución tras k pasos, obtenida al multiplicar por P una vez por paso.
π
la distribución estacionaria — la que satisface πP = π.
k
cuántos pasos dar, fijados arriba. La tabla de trayectoria muestra cada distribución desde p(0) hasta p(k).

De dónde viene la fórmula

  1. Escribe lo que exige la estacionariedad: tras un paso, la distribución no cambia, por lo que πP = π.
  2. Reordenado, eso es π(P − I) = 0 — un sistema de ecuaciones lineales, una por estado. Por sí solo tiene infinitas soluciones, porque cualquier múltiplo de una solución también lo es.
  3. Añade la condición que la convierte en una distribución de probabilidad, Σπ = 1, y la solución queda determinada. Para la matriz por defecto es exactamente 8/13, 3/13, 2/13 — los 0.615385, 0.230769, 0.153846 indicados arriba.

Cómo leer lo que ves

Tres paneles. p(k) es donde se encuentra realmente la cadena tras tus k pasos; π es hacia donde se dirige, junto con el número de iteraciones y si convergió; y la distancia a la estacionariedad mide la diferencia entre ambos — 0.08893 con el valor por defecto k = 8, razón por la cual la nota indica que la cadena aún no se ha mezclado del todo. La tabla de trayectoria inferior muestra cada paso, comenzando desde (1, 0, 0).

Supone
Un conjunto finito de estados y probabilidades que nunca cambian con el tiempo. Que cada fila sume 1 no es una regla de formato, sino la afirmación de que la cadena debe ir a algún lugar en cada paso.
Falla cuando
El π de arriba está etiquetado como estimación por una razón: se alcanza haciendo avanzar la cadena de forma repetida — 83 iteraciones para la matriz por defecto — y se detiene cuando las distribuciones sucesivas dejan de cambiar. Eso es un criterio numérico, no una demostración. La respuesta exacta aquí es el conjunto de racionales 8/13, 3/13, 2/13, y los decimales mostrados son esos mismos valores redondeados a seis cifras.

PageRank es este mismo cálculo, aplicado a toda la web 🖖

La distribución estacionaria no es solo un ejercicio de libro de texto: Google se fundó sobre una. Trata cada página web como un estado y cada enlace como una transición, y la distribución estacionaria de esa cadena enorme dice con qué frecuencia un lector que hiciera clic en enlaces para siempre acabaría en cada página. Eso es PageRank. El famoso factor de amortiguación de 0,85, que manda al navegante a una página aleatoria el 15% de las veces, tampoco es un ajuste heurístico: existe para garantizar que cada estado pueda alcanzar todos los demás, que es exactamente la condición que hace que la distribución estacionaria sea única y alcanzable. Sin él, las páginas sin salida y los bucles cerrados atraparían el paseo y romperían la respuesta.

Hacia qué se estabiliza a largo plazo 🖖

Cada fila de la matriz de transición es solo un conjunto de probabilidades: si estás en un estado, con qué probabilidad saltas a cada uno de los otros en el siguiente paso. Multiplica tu vector de probabilidad actual por P una vez por paso y los números se acercan a una mezcla fija, la distribución estacionaria π. Esa mezcla indica la fracción de tiempo que el sistema pasa en cada estado a largo plazo — prueba el ejemplo del clima y observa cómo p(k) se estabiliza.

Un objetivo único que nunca alcanza 🖖

Pon la matriz de dos estados en [[0,1],[1,0]] — una moneda que siempre cambia de cara. Tiene una distribución estacionaria única y perfectamente válida π = (0.5, 0.5), pero si empiezas en (1, 0), p(k) rebota 1,0 → 0,1 → 1,0 para siempre, sin converger nunca. Estas cadenas periódicas explican precisamente por qué el explorador puede indicar converged: no; la convergencia garantizada exige una cadena aperiódica, no solo una π única.

Práctica

Compruébalo tú mismo

Predice la respuesta primero y luego usa los controles de arriba para comprobarlo. Revela la solución solo cuando te hayas comprometido con una hipótesis: eso es lo que lo convierte en práctica.

  1. Por defecto la cadena arranca con certeza en el estado 1, p(0) = (1, 0, 0). Cámbialo a (0, 0, 1) para que empiece en el estado 3. Predice qué lecturas se mueven y cuáles no.

    Mostrar la respuesta
    p(k) y la distancia se mueven; π y el número de iteraciones no. Desde el estado 1, ocho pasos llegan a 0.659852, 0.218714, 0.121436, una distancia de 0.08893. Desde el estado 3 llegan a 0.522304, 0.255274, 0.222421, una distancia de 0.18616 — más lejos, porque el estado 3 es el destino más raro. En ambos casos π marca 0.615385, 0.230769, 0.153846 tras las mismas 83 iteraciones. El punto de partida decide cuán avanzada está la cadena, nunca hacia dónde va: en πP = π solo aparece la matriz.
  2. Vuelve a (1, 0, 0) y sube ahora el número de pasos. ¿Con cuántos marca 0 la distancia a la estacionariedad — y ha llegado entonces la cadena?

    Mostrar la respuesta
    Con k = 80 aparece 0, y no, no ha llegado. Ya en k = 40 la distancia es 0.000024; los seis decimales que imprime el panel simplemente se agotan antes que el hueco. Esta cadena se acerca a π geométricamente y nunca lo alcanza en un número finito de pasos, así que el 0 es el redondeo de la pantalla — la misma razón por la que π se etiqueta como estimación. Compara con k = 8, donde la distancia es 0.08893 y la nota aún dice que la cadena no se ha mezclado.

Problema resuelto al detalle

  1. Ocho pasos de una cadena de tres estados iniciada en el estado 1 5 pasos

    Una cadena de tres estados iniciada por completo en el estado 1, tras ejecutarse durante ocho pasos. Determine hacia dónde se dirige y cuánto le falta aún por recorrer.

    1. Un paso es un producto vector-matriz: la probabilidad de estar a continuación en el estado j es la suma sobre i de estar ahora en i y pasar de i → j.

    2. Ocho pasos de este proceso dan la distribución que muestra el panel. El estado 1 aún conserva dos tercios de la probabilidad, una cantidad elevada teniendo en cuenta que la cadena comenzó allí con certeza.

    3. El destino es la distribución estacionaria: aquella que un paso deja inalterada. Al resolver πP = π haciendo que las probabilidades sumen 1 se obtienen fracciones exactas, octavos y treceavos, no decimales.

    4. Al comparar ambas se obtiene la distancia que muestra el panel, y no es pequeña: tras ocho pasos la cadena aún está a una distancia total de unos 0,089.

    5. Esa diferencia decrece geométricamente, gobernada por el segundo autovalor más grande de P. El decrecimiento geométrico significa que se reduce a la mitad en un número fijo de pasos y nunca alcanza el cero en un número finito de ellos.

    Respuesta

    La herramienta muestra 0,65985, 0,218714, 0,121436 tras ocho pasos, aún a 0,08893 de la estacionariedad. La distribución estacionaria es exactamente (8/13, 3/13, 2/13), y el hecho que conviene recordar es que no depende de dónde se haya comenzado: esas mismas tres fracciones son el límite para cualquier distribución inicial, lo que las convierte en una propiedad de la matriz de transición y no de esta ejecución en concreto. Esa independencia es lo que hace útiles a las distribuciones estacionarias: PageRank, el muestreo por MCMC y la ocupación de las colas se basan en que la respuesta a largo plazo es una propiedad exclusiva de las reglas de transición. Solo el tiempo necesario para llegar hasta allí depende del punto de partida.

Referencias (1)

Problemas de ejemplo

  • cadena ergódica de 3 estados - Llevas ocho pasos y el indicador aún señala 0,08893 de distancia en L1. La distribución estacionaria en la que se asienta (0,615385, 0,230769, 0,153846) es exactamente 8/13, 3/13 y 2/13. Una matriz escrita en décimas tiene un punto fijo en treceavos. π surge de resolver πP = π, no de los valores que introdujiste.
  • clima, 2 estados - 0,666667 y 0,333333. Con una cadena de dos estados jamás necesitas iterar para encontrarlos. π equivale a las dos probabilidades situadas fuera de la diagonal, intercambiadas y normalizadas: 0,4 / (0,2 + 0,4) = 2/3. Desde un inicio 50/50, diez pasos te dejan a menos de 0,000035 de este valor.
  • cadena de 3 estados de mezcla lenta - Treinta pasos aquí dejan una distancia L1 de 0,081995. Queda mucho más lejos de la estacionariedad de lo que alcanzó la cadena del clima en diez pasos, por un factor superior a dos mil. La explicación está en la diagonal: 0,97, 0,94, 0,96. La cadena casi nunca abandona el estado en el que se encuentra. Hicieron falta 493 iteraciones de potencia frente a las 25 de la cadena del clima, y π es 4/11, 4/11, 3/11.