Lição
A teoria — Explorador de cadeias de Markov estacionárias
Uma distribuição é estacionária quando mais um passo não altera nada: πP = π. É um ponto fixo da matriz de transição — a cadeia continua a mover-se entre estados, mas as proporções deixam de mudar.
O que significa cada símbolo
P- a matriz de transição. O elemento na linha i, coluna j é a probabilidade de transição do estado i para o estado j, pelo que a soma de cada linha tem de ser 1 — o que a grelha acima verifica por si.
p(0)- a distribuição inicial: onde a cadeia começa. O valor predefinido
(1, 0, 0)significa que começa no estado 1 com certeza. p(k)- a distribuição após k passos, obtida multiplicando por
Puma vez por passo. π- a distribuição estacionária — aquela que satisfaz
πP = π. k- quantos passos dar, definidos acima. A tabela de trajetória mostra todas as distribuições desde
p(0)atép(k).
De onde vem a fórmula
- Escreva o que a estacionaridade exige: após um passo, a distribuição permanece inalterada, logo
πP = π. - Reorganizado, isto é
π(P − I) = 0— um sistema de equações lineares, uma por cada estado. Por si só, tem infinitas soluções, pois qualquer múltiplo de uma solução também é uma solução. - Adicione a condição que a torna uma distribuição de probabilidade,
Σπ = 1, e a resposta fica determinada. Para a matriz predefinida, é exatamente8/13, 3/13, 2/13— os valores0.615385, 0.230769, 0.153846apresentados acima.
Como ler o que vê
Três painéis. p(k) é onde a cadeia realmente se encontra após os seus k passos; π é para onde se dirige, juntamente com o número de iterações e a indicação de convergência; e a distância à estacionaridade mede a diferença entre eles — 0.08893 no valor predefinido k = 8, razão pela qual a nota refere que a cadeia ainda não se misturou totalmente. A tabela de trajetória abaixo mostra cada passo, a começar em (1, 0, 0).
- Pressupõe
- Um conjunto finito de estados e probabilidades que nunca mudam com o tempo. A soma de cada linha ser igual a 1 não é uma regra de formatação, mas sim a afirmação de que a cadeia tem de ir para algum lado em cada passo.
- Falha quando
- O
πacima está rotulado como uma estimativa por uma razão: é obtido avançando a cadeia repetidamente — 83 iterações para a matriz predefinida — e interrompido quando as distribuições sucessivas deixam de mudar. Trata-se de uma avaliação numérica, não de uma demonstração. A resposta exata aqui é o conjunto de racionais8/13, 3/13, 2/13, e os decimais apresentados correspondem a esses valores arredondados a seis casas decimais.
Prática
Verifique você mesmo
Preveja primeiro a resposta e depois use os controlos acima para confirmar. Revele a solução só depois de se ter comprometido com um palpite — é isso que torna isto prática.
-
Por omissão a cadeia arranca com certeza no estado 1,
p(0) = (1, 0, 0). Mude para(0, 0, 1)para que comece no estado 3. Preveja que leituras se mexem e quais não.Mostrar a resposta
p(k)e a distância mexem-se;πe o número de iterações não. A partir do estado 1, oito passos chegam a0.659852, 0.218714, 0.121436, uma distância de0.08893. A partir do estado 3 chegam a0.522304, 0.255274, 0.222421, uma distância de0.18616— mais longe, porque o estado 3 é o destino mais raro. Nos dois casosπindica0.615385, 0.230769, 0.153846após as mesmas83iterações. O ponto de partida decide o quanto a cadeia já andou, nunca para onde vai: emπP = πsó aparece a matriz. -
Volte a
(1, 0, 0)e aumente agora o número de passos. Ao fim de quantos é que a distância à estacionaridade indica0— e terá a cadeia chegado?Mostrar a resposta
Comk = 80aparece0, e não, não chegou. Já emk = 40a distância é0.000024; as seis casas decimais que o painel imprime esgotam-se simplesmente antes da diferença. Esta cadeia aproxima-se deπgeometricamente e nunca lá chega num número finito de passos, pelo que o0é o arredondamento do ecrã — a mesma razão por que o próprioπé rotulado como estimativa. Compare comk = 8, onde a distância é0.08893e a nota ainda diz que a cadeia não misturou.
Problema resolvido na íntegra
-
Oito passos de uma cadeia de três estados iniciada no estado 1 5 passos
Uma cadeia de três estados iniciada inteiramente no estado 1, executada durante oito passos. Determine para onde se está a dirigir e quanto ainda lhe falta percorrer.
-
Um passo é um produto vetor-matriz: a probabilidade de estar no estado j a seguir é a soma sobre i de estar em i agora e de transitar i → j.
-
Oito passos disso dão a distribuição que o painel apresenta. O estado 1 ainda detém dois terços da probabilidade, o que é muito tendo em conta que a cadeia começou ali com certeza.
-
O destino é a distribuição estacionária — aquela que um passo deixa inalterada. Resolver πP = π com a soma das probabilidades igual a 1 dá frações exatas, oitavos e treze avos, e não decimais.
-
Comparar as duas dá a distância que o painel indica, e não é pequena: após oito passos, a cadeia ainda está a cerca de 0,089 de distância no total.
-
Essa diferença diminui geometricamente, regida pelo segundo maior valor próprio de P. O decaimento geométrico significa que se reduz para metade num número fixo de passos e nunca atinge o zero num número finito de passos.
Resposta
A ferramenta apresenta 0,65985, 0,218714, 0,121436 após oito passos, ainda a 0,08893 da estacionariedade. A distribuição estacionária é exatamente (8/13, 3/13, 2/13), e o facto que vale a pena reter é que esta não depende de onde se começou: essas mesmas três frações são o limite a partir de qualquer distribuição inicial, o que faz delas uma propriedade da matriz de transição e não desta execução em particular. Essa independência é o que torna as distribuições estacionárias úteis: o PageRank, a amostragem MCMC e a ocupação de filas de espera dependem todos de a resposta a longo prazo ser uma propriedade exclusiva das regras de transição. Apenas o tempo necessário para lá chegar depende do ponto de partida.
-
Referências (1)
- The stationary distribution put to work on the whole web, damping factor and all: S. Brin & L. Page, “The anatomy of a large-scale hypertextual Web search engine.” Computer Networks and ISDN Systems 30, 107–117, 1998.