Teste F da ANOVA

Compare a variância entre grupos e dentro dos grupos para testar se as médias dos grupos diferem.

A carregar a simulação interativa...

Lição

A teoria — Teste F da ANOVA

Uma ANOVA de um factor não pergunta se várias médias de grupos diferem — médias medidas diferem sempre um pouco. Pergunta se diferem mais do que a simples amostragem ao acaso produziria. A estatística F torna isso comparável pondo a dispersão entre as médias dos grupos sobre a dispersão dentro deles, e o valor p diz com que frequência o acaso sozinho alcançaria um quociente tão grande.

O que significa cada símbolo

MS_between
o quadrado médio entre grupos: a que distância as médias dos grupos ficam da média global, por grau de liberdade.
MS_within
o quadrado médio dentro dos grupos: a dispersão comum das observações à volta da média do seu próprio grupo. É esta a bitola.
F
o quociente dos dois. À volta de 1 quando os grupos se parecem, porque então ambos estimam a mesma coisa.
p
a probabilidade de grupos verdadeiramente idênticos produzirem um F pelo menos tão grande.

De onde vem a fórmula

  1. Suponha por momentos que todos os grupos têm a mesma média. Então as observações são todas retiradas de uma única população, e há duas maneiras independentes de estimar a variância dessa população a partir dos seus dados.
  2. A primeira ignora por completo o agrupamento e mede apenas a dispersão dentro de cada grupo: é o MS_within. Estima a variância da população quer as médias difiram quer não, e é isso que faz dela uma bitola justa.
  3. A segunda usa apenas as médias dos grupos. Se os grupos forem realmente idênticos, as médias afastam-se mesmo assim por mera amostragem, e o tamanho desse tremor é ele próprio uma estimativa da mesma variância: é o MS_between. Se as médias não forem idênticas, esta segunda estimativa fica ainda inflada pelas diferenças reais.
  4. Portanto o quociente F = MS_between / MS_within opõe uma estimativa que cresce quando as médias diferem a outra que não cresce. Sob «todas as médias iguais» deveria cair perto de 1 e segue uma distribuição conhecida — a curva desenhada acima, fixada inteiramente pelos dois graus de liberdade. O valor p é a área dessa curva à direita do seu F.

Como ler o que vê

A curva azul é o que F faria se todas as médias dos grupos fossem idênticas, e não depende de mais nada além dos dois graus de liberdade — não dos seus dados. A cauda sombreada a vermelho é a região de rejeição: os valores tão afastados que ocorreriam por acaso menos de α das vezes, com a linha tracejada no valor crítico a marcar onde começa. A linha verde é onde o seu F caiu de facto. Todo o teste se resume a de que lado da linha tracejada fica a verde, e o valor p é a área à direita dela.

Pressupõe
Observações independentes umas das outras, aproximadamente normais dentro de cada grupo e — a que morde — variâncias aproximadamente iguais entre grupos. Esta página parte dos dois quadrados médios e não dos seus dados, pelo que não pode verificar nenhuma das três por si. Calculará de bom grado um valor p de aspecto seguro a partir de qualquer par de números positivos.
Falha quando
A igualdade de variâncias é onde as coisas correm mal em silêncio. O MS_within junta a dispersão de todos os grupos numa bitola única e, se um grupo for muito mais variável do que os outros, essa bitola não descreve nenhum deles; a estatística deixa de seguir a curva acima e o valor p mede uma área sob a distribuição errada. O remédio habitual é a ANOVA de Welch, que não junta. Dimensões desiguais dos grupos agravam o mesmo problema, porque a estimativa conjunta passa a ser dominada pelo grupo maior.

O número a superar é 1, não 0 🖖

F é a razão entre duas variâncias, e só isso fixa o seu valor neutro em 1 em vez de 0. Se os grupos forem genuinamente semelhantes, a dispersão entre as médias dos grupos e a dispersão dentro delas estão ambas a estimar a mesma variância populacional subjacente, pelo que a razão deve situar-se perto de 1 — defina ambos os quadrados médios como 3 e o resultado é exatamente 1. Um valor de 0 exigiria que as médias dos grupos coincidissem perfeitamente, o que nunca acontece em amostras reais. A razão também é insensível às unidades: 4 sobre 31.3333, tal como 4000 sobre 3000. Multiplique cada medição do estudo por mil e F não se alterará.

O mesmo F torna-se ao mesmo tempo mais convincente e menos impressionante 🖖

Mantenha F em 3,555 e mude apenas os graus de liberdade dentro dos grupos. Com df₂ = 10 o valor p é 0,068195 e não rejeitaria; com 18 é 0,049984, exactamente em cima da linha; com 100 é 0,032248. O quociente nunca se mexeu — só a quantidade de dados por trás dele. Agora leia o tamanho do efeito na mesma mudança: η² cai de 0,2832 para 0,0664. Mais dados tornam o mesmo F mais difícil de descartar e, no mesmo fôlego, descrevem uma fatia menor da variação. A significância responde a «isto pode ser ruído?» e o tamanho do efeito a «vale alguma coisa?», e aqui apontam em sentidos opostos.

O tamanho do efeito é o R² com outro nome 🖖

η² é a parte da variação total atribuível à pertença ao grupo — a soma de quadrados entre grupos a dividir pela total. Pegue agora nos mesmos dados e ajuste uma regressão que preveja cada observação pela média do seu próprio grupo: o R² dela é exactamente esse número. A fórmula da leitura, η² = F·df₁ / (F·df₁ + df₂), é apenas esse quociente reescrito com as quantidades que uma tabela de ANOVA imprime de qualquer forma. A análise de variância e a regressão linear não são duas técnicas com respostas parecidas: são um só cálculo com dois vocabulários, e esta linha é onde as duas palavras se tocam.

Problema resolvido na íntegra

  1. Três grupos, trinta observações e um F de 1,33 5 passos

    Três grupos, trinta observações e um F de 1,33 que não é significativo. Determine de onde vêm esses graus de liberdade e por que razão não pode simplesmente efetuar três testes t em vez disso.

    1. A estatística F é a razão entre duas estimativas de variância: o quanto as médias dos grupos diferem, sobre o quanto as observações se dispersam dentro dos grupos. Um valor próximo de 1 indica que os grupos diferem sensivelmente o mesmo que o mero acaso produziria.

    2. Os graus de liberdade revelam o plano experimental sem que lhe seja dito. O primeiro é o número de grupos menos um, logo há três grupos; o segundo é o total de observações menos o número de grupos, logo há trinta observações.

    3. Multiplicar cada quadrado médio pelos seus graus de liberdade recupera as somas de quadrados — 8 entre grupos e 81 dentro dos grupos, 89 no total.

    4. A sua razão é o eta quadrado, a proporção da variação total explicada pelo agrupamento. Nove por cento.

    5. A alternativa é comparar os três grupos dois a dois, o que equivale a três testes t. Cada um tem uma taxa de falsos positivos de 5%, pelo que a probabilidade de pelo menos um falso alarme é 1 − 0,95³.

    Resposta

    A ferramenta apresenta F = 1,3333, graus de liberdade (2, 27) e η² = 0,0899. Daqui decorrem duas coisas. Em primeiro lugar, o tamanho do efeito não é zero — o agrupamento explica efetivamente 9% da variação —, mas com tanta dispersão dentro dos grupos isso nada tem de invulgar, o que é exatamente o significado de um F não significativo e precisamente o que as pessoas esquecem ao interpretá-lo como "sem diferença". Em segundo lugar, a razão pela qual a ANOVA existe: três testes t comparando os grupos dois a dois envolvem uma probabilidade de 14,3% de ter pelo menos um falso positivo, contra os 5% que julgava estar a assumir; e com cinco grupos isso passa a dez testes e 40%. Um único teste a todos os grupos em simultâneo é a solução.

Percurso de aprendizagem

Quando é que uma diferença é real?

Conduz a Qui-quadrado

Referências (3)

Problemas de exemplo

  • Sinal Fraco - MSB 4 contra MSW 3 → F = 1.3333 em (2, 27): o número a bater é 1, não 0, portanto o sinal é ténue
  • Sinal Forte - MSB 18 contra MSW 2 → F = 9 em (3, 40), com η² = 0.403
  • F e tamanho do efeito discordam - MSB 5 contra MSW 4 → F = 1.25, mais baixo do que no caso fraco, enquanto η² sobe para 0.122 — F e tamanho do efeito podem divergir
  • Mesmo em cima da linha - MSB 7,11 contra MSW 2 → F = 3,555 em (2, 18), um triz acima do valor crítico 3,5546 a 0,05, portanto p = 0,049984 e a decisão vira ao mínimo ajuste