Lektion
Die Theorie — ANOVA-F-Test
Eine einfaktorielle Varianzanalyse fragt nicht, ob sich mehrere Gruppenmittelwerte unterscheiden — gemessene Mittelwerte unterscheiden sich immer ein wenig. Sie fragt, ob sie sich stärker unterscheiden, als bloße Zufallsstichproben es hervorbrächten. Die F-Statistik macht das vergleichbar, indem sie die Streuung zwischen den Gruppenmittelwerten über die Streuung innerhalb der Gruppen setzt, und der p-Wert sagt, wie oft der Zufall allein ein derart großes Verhältnis zustande brächte.
Was die einzelnen Symbole bedeuten
MS_between- das mittlere Quadrat zwischen den Gruppen: wie weit die Gruppenmittelwerte vom Gesamtmittel entfernt liegen, je Freiheitsgrad.
MS_within- das mittlere Quadrat innerhalb der Gruppen: die gewöhnliche Streuung der Beobachtungen um ihren eigenen Gruppenmittelwert. Das ist der Maßstab.
F- ihr Verhältnis. Nahe 1, wenn sich die Gruppen gleichen, denn dann schätzen beide dasselbe.
p- die Wahrscheinlichkeit, dass wirklich identische Gruppen ein mindestens so großes F hervorbringen.
Woher die Formel kommt
- Nimm einmal an, alle Gruppen hätten denselben Mittelwert. Dann stammen alle Beobachtungen aus einer einzigen Population, und es gibt zwei voneinander unabhängige Wege, deren Varianz aus deinen Daten zu schätzen.
- Der erste ignoriert die Gruppierung völlig und misst nur die Streuung innerhalb jeder Gruppe: das ist
MS_within. Er schätzt die Populationsvarianz unabhängig davon, ob sich die Mittelwerte unterscheiden — und genau das macht ihn zu einem fairen Maßstab. - Der zweite benutzt nur die Gruppenmittelwerte. Sind die Gruppen wirklich identisch, wackeln die Mittelwerte allein durch die Stichprobenziehung auseinander, und die Größe dieses Wackelns ist selbst eine Schätzung derselben Populationsvarianz: das ist
MS_between. Sind die Mittelwerte nicht identisch, wird diese zweite Schätzung durch die echten Unterschiede zusätzlich aufgebläht. - Das Verhältnis
F = MS_between / MS_withinstellt also eine Schätzung, die bei unterschiedlichen Mittelwerten wächst, einer gegenüber, die das nicht tut. Unter „alle Mittelwerte gleich“ sollte es nahe 1 landen und folgt einer bekannten Verteilung — der oben gezeichneten Kurve, die allein von den beiden Freiheitsgraden festgelegt ist. Der p-Wert ist die Fläche dieser Kurve rechts von deinem F.
So liest du, was du siehst
Die blaue Kurve ist das, was F täte, wenn alle Gruppenmittelwerte identisch wären; sie hängt von nichts ab außer den beiden Freiheitsgraden — nicht von deinen Daten. Der rot schattierte Schwanz ist der Ablehnungsbereich: Werte, die so weit außen liegen, dass sie zufällig in weniger als α der Fälle vorkämen, wobei die gestrichelte Linie am kritischen Wert den Anfang markiert. Die grüne Linie zeigt, wo dein F tatsächlich gelandet ist. Der ganze Test ist die Frage, auf welcher Seite der gestrichelten Linie die grüne liegt, und der p-Wert ist die Fläche rechts davon.
- Setzt voraus
- Voneinander unabhängige Beobachtungen, innerhalb jeder Gruppe annähernd normalverteilt und — das ist die heikle — annähernd gleiche Varianzen über die Gruppen hinweg. Diese Seite beginnt bei den beiden mittleren Quadraten und nicht bei deinen Daten, kann also keine der drei Annahmen für dich prüfen. Sie berechnet aus jedem Paar positiver Zahlen bereitwillig einen souverän aussehenden p-Wert.
- Versagt, wenn
- Gleiche Varianzen sind die Stelle, an der es leise schiefgeht.
MS_withinfasst die Streuung aller Gruppen zu einem einzigen Maßstab zusammen; ist eine Gruppe weit variabler als die übrigen, beschreibt dieser Maßstab keine von ihnen. Die Statistik folgt dann nicht mehr der Kurve oben, und der p-Wert misst eine Fläche unter der falschen Verteilung. Der übliche Ausweg ist die Welch-ANOVA, die nicht zusammenfasst. Ungleiche Gruppengrößen verschärfen dasselbe Problem, weil die gepoolte Schätzung dann von der jeweils größten Gruppe beherrscht wird.
Aufgabe vollständig gelöst
-
Drei Gruppen, dreißig Beobachtungen und ein F von 1,33 5 Schritte
Drei Gruppen, dreißig Beobachtungen und ein F-Wert von 1,33, der nicht signifikant ist. Ermitteln Sie, woher diese Freiheitsgrade stammen und warum Sie nicht einfach stattdessen drei t-Tests durchführen können.
-
Die F-Statistik ist das Verhältnis zweier Varianzschätzungen: wie stark sich die Gruppenmittelwerte unterscheiden, geteilt durch die Streuung der Beobachtungen innerhalb der Gruppen. Ein Wert nahe 1 besagt, dass sich die Gruppen etwa so stark unterscheiden, wie es allein durch den Zufall entstehen würde.
-
Die Freiheitsgrade verraten das Studiendesign, ohne dass man es genannt bekommt. Der erste ist die Anzahl der Gruppen minus eins, es gibt also drei Gruppen; der zweite ist die Gesamtzahl der Beobachtungen minus der Anzahl der Gruppen, es gibt also dreißig Beobachtungen.
-
Multipliziert man jede mittlere Quadratsumme mit ihren Freiheitsgraden, erhält man die Quadratsummen zurück — 8 zwischen den Gruppen und 81 innerhalb, 89 insgesamt.
-
Ihr Verhältnis ist Eta-Quadrat, der Anteil der Gesamtvariation, den die Gruppierung erklärt. Neun Prozent.
-
Die Alternative besteht darin, die drei Gruppen paarweise zu vergleichen, was drei t-Tests entspricht. Jeder birgt eine Falsch-Positiv-Rate von 5%, sodass die Wahrscheinlichkeit für mindestens einen Fehlalarm 1 − 0,95³ beträgt.
Antwort
Das Werkzeug gibt F = 1,3333, Freiheitsgrade (2, 27) und η² = 0,0899 aus. Daraus folgen zwei Dinge. Erstens ist die Effektstärke nicht null — die Gruppierung erklärt tatsächlich 9% der Variation —, aber bei so viel Streuung innerhalb der Gruppen ist das unauffällig. Genau das bedeutet ein nicht signifikantes F und genau das wird oft vergessen, wenn ein solches Ergebnis als "kein Unterschied" interpretiert wird. Zweitens der Grund, warum die ANOVA existiert: Drei paarweise t-Tests bergen ein Risiko von 14,3% für mindestens ein falsch-positives Ergebnis gegenüber den 5%, die man anzunehmen glaubte, und bei fünf Gruppen sind es zehn Tests und 40%. Ein einziger Test über alle Gruppen gleichzeitig ist die Lösung.
-
Lernpfad
Wann ist ein Unterschied echt?
Quellen (3)
- The paper that introduced the word “variance” and the decomposition the lesson derives: R. A. Fisher, "The Correlation between Relatives on the Supposition of Mendelian Inheritance." Transactions of the Royal Society of Edinburgh 52(2), 399–433, 1919 (read 1918).
- The repair when the groups do not share a variance, which is the assumption this page cannot check for you: B. L. Welch, "On the Comparison of Several Mean Values: An Alternative Approach." Biometrika 38(3/4), 330–336, 1951.
- Where small-sample testing came from, and why a RATIO of variances was the right thing to look at: G. E. P. Box, "Guinness, Gosset, Fisher, and Small Samples." Statistical Science 2(1), 45–52, 1987.