Dies ist eine maschinelle Übersetzung; der englische Text ist das Original. Original lesen
Jede Gruppe in den Daten fällt. Die Gesamtheit steigt.
Niemand hat einen Fehler gemacht, es fehlt nichts, und die Stichprobe ist nicht zu klein. Zwei korrekte Berechnungen auf identischen Daten weisen in entgegengesetzte Richtungen.
Öffnen Sie die Causality Sandbox und wählen Sie das Preset Simpson. Das Bedienfeld zeigt eine Korrelation zwischen X und Y von 0,1702 sowie eine angepasste Steigung von 0,0928. Positiv: Wenn X steigt, steigt Y.
Direkt darunter passt dasselbe Bedienfeld dieselben Punkte erneut an, nachdem sie nach einer dritten Spalte, G, aufgeteilt wurden. Steigung innerhalb von G = 0: −0,5842. Steigung innerhalb von G = 1: −0,6109.
Jede einzelne Gruppe fällt. Die Gesamtheit steigt. Zwischen diesen beiden Berechnungen wurden keine Zeilen hinzugefügt, entfernt, gewichtet oder transformiert — sie wurden lediglich gruppiert.
Wie beides wahr sein kann
Der Mechanismus ist rein mechanisch, sobald man ihn durchschaut hat, und er hat nichts mit der Stichprobengröße oder der Signifikanz zu tun.
Die dritte Spalte erfüllt zwei Aufgaben auf einmal. Das Bedienfeld gibt eine Korrelation zwischen X und dieser Variable von 0,8061 an, sowie zwischen Y und ihr von 0,6884. Die Gruppen liegen im Streudiagramm also nicht übereinander: Die eine nimmt den Bereich mit niedrigen X- und niedrigen Y-Werten ein, die andere den Bereich mit hohen X- und hohen Y-Werten. Jede Gruppe bildet für sich eine nach unten geneigte Punktwolke, und die beiden Wolken sind entlang einer ansteigenden Diagonalen angeordnet.
Zieht man eine einzelne Gerade durch beide Wolken, wird diese vom Versatz zwischen ihnen dominiert, da dieser Versatz einen weit größeren Bereich überspannt als die Breite der einzelnen Wolken. Die gepoolte Gerade misst den Abstand zwischen den Gruppen. Die Geraden innerhalb der Gruppen messen die Beziehung innerhalb der Gruppen. Sie widersprechen sich, weil sie unterschiedliche Dinge messen, und die Arithmetik ist in beiden Fällen einwandfrei.
Das erklärt auch, warum sich dieser Effekt nicht durch mehr Daten beheben lässt. Erhebt man zehnmal so viele Datenpunkte, werden beide Schätzungen präziser — um ihre bestehenden, entgegengesetzten Werte herum. Das Simpson-Paradoxon ist kein Stichprobenrauschen. Es ist kein Artefakt kleiner Stichproben und kein Versagen der Regression. Es ist das, was passiert, wenn man über eine Variable aggregiert, die eine Rolle spielt.
Der Fall, der es berühmt machte
Die Zulassungen zum Graduiertenstudium in Berkeley im Herbst 1973. Etwa 44 % der männlichen Bewerber wurden zugelassen, verglichen mit 35 % der Frauen — ein Unterschied von neun Prozentpunkten bei mehr als zwölftausend Bewerbungen, viel zu groß, um Zufall zu sein.
Bickel, Hammel und O'Connell führten daraufhin die Aufteilung nach Fachbereichen durch. Die meisten Fachbereiche zeigten eine leichte Begünstigung von Frauen, und der gepoolte Unterschied hatte keinen Bestand mehr: Die aggregierte Differenz entstand fast ausschließlich dadurch, an welchen Fachbereichen sich die Personen bewarben. Frauen bewarben sich in größerer Zahl an Fachbereichen mit allgemein niedrigen Zulassungsquoten; Männer bewarben sich an Fachbereichen, die fast die Hälfte aller Bewerber zuließen. Der Fachbereich spielte genau dieselbe Rolle, die G im Preset einnimmt — er korrelierte sowohl mit der Eingangs- als auch mit der Zielvariable.
Was die Berkeley-Studie so lesenswert macht, ist die Sorgfalt ihrer Schlussfolgerung. Die Autoren verkündeten keineswegs, dass keine Verzerrung vorlag. Sie wiesen darauf hin, dass sich die Verzerrung verlagert hatte: Was auch immer Bewerber in überlaufene, umkämpfte Fachbereiche lenkte, lag vorgelagert vor den Zulassungsausschüssen, und ihre Daten konnten dies nicht erfassen. Die Disaggregation zeigte ihnen, wo sie nicht suchen sollten — was ein reales und zugleich bescheidenes Ergebnis ist.
Welche Zahl sollten Sie verwenden?
Hier kommt der Punkt, der dies zu mehr als einer Kuriosität macht, denn die naheliegende Lehre — immer zu disaggregieren — ist falsch.
Betrachten Sie eine Arzneimittelstudie, bei der die Behandlungszuweisung mit der Schwere der Erkrankung der Patienten korreliert: Kränkere Patienten erhielten das neue Medikament häufiger. Gepoolt wirkt das Medikament schädlich. Nach Schweregrad aufgeteilt hilft es in jedem Stratum. Sie wollen die Aufteilung, weil der Schweregrad beeinflusst hat, wer das Medikament erhielt, und auch das Ergebnis beeinflusste. Er ist ein Confounder, und die Bereinigung darum entfernt eine Verzerrung.
Betrachten Sie nun eine Studie, bei der das Medikament durch Senkung des Blutdrucks wirkt, und Sie nach dem nach der Behandlung gemessenen Blutdruck aufteilen. Innerhalb jedes Stratums scheint das Medikament keine Wirkung zu haben — Sie haben nach dessen eigenem Mechanismus gruppiert. Hier ist die gepoolte Zahl die richtige, und eine Bereinigung zerstört genau den Effekt, den Sie messen wollten. Die Sandbox bietet auch für diese Struktur ein Preset: einen Collider, eine Variable, auf die beide Eingangsgrößen zeigen, wobei das Konditionieren darauf eine Beziehung erzeugt, die gar nicht existiert.
Diese beiden Fälle können identische Zahlentabellen hervorbringen. Nichts innerhalb der Daten unterscheidet sie. Die Wahl zwischen gepoolt und aufgeteilt ist eine Behauptung darüber, welche Variable zuerst da war — über die Kausalstruktur — und die Kausalstruktur findet sich nicht in den Spalten. Deshalb ist das Paradoxon ein dauerhaftes Merkmal von Beobachtungsstudien und kein Rätsel, das einmalig gelöst wird: Die Statistik grenzt die Möglichkeiten ein, und etwas außerhalb der Statistik muss die Entscheidung treffen.
Simpson selbst wies 1951 in einer Arbeit darauf hin, die vorsichtiger war als ihr Ruf. Er konstruierte die Umkehrung in einer Kontingenztabelle und argumentierte dann, dass die "sensible interpretation" von der Bedeutung der Kategorien abhängt, nicht von der Tabelle. Die Arithmetik ist nicht mehrdeutig. Die Frage ist es.
Was Sie dagegen tun können
Daraus ergeben sich drei Gewohnheiten, und sie erfordern wenig Aufwand.
Erstellen Sie erst ein Diagramm, bevor Sie anpassen. Eine gepoolte Steigung durch zwei versetzte Wolken ist in einem Streudiagramm sofort sichtbar, in einem Korrelationskoeffizienten dagegen unsichtbar. Das Regressionswerkzeug zeigt die Residuen neben der Anpassung, und gestapelte Gruppen hinterlassen dort eine unverwechselbare Signatur: Residuen, die groß, strukturiert und gruppiert sind, anstatt zufällig gestreut zu sein.
Schreiben Sie vor der Berechnung auf, was Ihrer Meinung nach was verursacht hat. Wenn Sie nicht begründen können, warum eine Variable in das Modell gehört, können Sie auch nicht sagen, ob die Bereinigung um diese Variable einen Confounder behebt oder einen Mechanismus zerstört — und Sie werden in der Lage sein, jede Entscheidung im Nachhinein zu rechtfertigen, was genau die Gefahr ist.
Seien Sie skeptisch gegenüber einer einzelnen Gesamtzahl, die über heterogene Gruppen hinweg berechnet wurde. Nationale Durchschnitte, unternehmensweite Kennzahlen, aggregierte Trends: Jedes davon ist eine gepoolte Steigung über Wolken hinweg, die sich möglicherweise in die entgegengesetzte Richtung bewegen. Die Umkehrung im Preset benötigte nur zwei Gruppen und eine korrelierte Variable. Reale Daten bieten von beidem Dutzende.