Ceci est une traduction automatique ; le texte original est en anglais. Lire l'article original
Chaque groupe dans les données tend à la baisse. Le total tend à la hausse.
Personne n'a commis d'erreur, rien ne manque et l'échantillon n'est pas trop restreint. Deux calculs exacts menés sur des données identiques pointent dans des directions opposées.
Ouvrez la Causality Sandbox et activez son préréglage Simpson. Le panneau indique une corrélation entre X et Y de 0,1702 et une pente ajustée de 0,0928. Résultat positif : lorsque X augmente, Y augmente.
Juste en dessous, ce même panneau ajuste à nouveau les mêmes points après les avoir séparés selon une troisième colonne, G. Pente pour G = 0 : −0,5842. Pente pour G = 1 : −0,6109.
Chaque groupe diminue. Le total augmente. Aucune ligne n'a été ajoutée, supprimée, pondérée ou transformée entre ces deux calculs — elles ont seulement été regroupées.
Comment les deux peuvent être vrais
Le mécanisme est entièrement mécanique une fois qu'on le comprend, et il n'a rien à voir avec la taille de l'échantillon ou la significativité.
La troisième colonne remplit deux rôles à la fois. Le panneau indique une corrélation de 0,8061 entre X et cette variable, et de 0,6884 entre Y et cette même variable. Ainsi, les groupes ne se superposent pas dans le nuage de points : l'un occupe la zone où X et Y sont faibles, et l'autre la zone où X et Y sont élevés. Chaque groupe forme un nuage intérieurement orienté vers le bas, et les deux nuages sont empilés le long d'une diagonale ascendante.
Tracée à travers les deux nuages, une droite unique est dominée par le décalage entre eux, car cet écart s'étend sur une plage bien plus large que la largeur de chaque nuage. La droite globale mesure l'écart entre les groupes. Les droites intragroupes mesurent la relation interne à chacun. Elles sont en désaccord parce qu'elles mesurent des objets différents, et l'arithmétique est irréprochable dans les deux cas.
Cela explique également pourquoi l'effet ne peut pas être corrigé en augmentant les données. Recueillez dix fois plus de points et les deux estimations deviendront plus précises — autour de leurs valeurs existantes et opposées. Le paradoxe de Simpson n'est pas un bruit d'échantillonnage. Ce n'est pas un artefact lié aux petits échantillons, ni un échec de la régression. C'est ce qui se produit lorsque vous agrégez selon une variable determinante.
Le cas qui l'a rendu célèbre
Les admissions en deuxième cycle à Berkeley, à l'automne 1973. Environ 44 % des candidats hommes ont été admis contre 35 % des femmes — un écart de neuf points sur plus de douze mille candidatures, bien trop important pour être dû au hasard.
Bickel, Hammel et O'Connell ont ensuite effectué la répartition, département par département. La plupart des départements présentaient un léger biais en faveur des femmes, et l'écart global n'a pas subsisté : la différence agrégée résultait presque entièrement des départements auxquels les candidats postulaient. Les femmes postulaient en plus grand nombre dans des départements présentant des taux d'admission faibles pour tous ; les hommes postulaient dans des départements admettant près de la moitié des candidats. Le département jouait exactement le rôle que joue G dans le préréglage — corrélé à la fois avec la variable d'entrée et avec le résultat.
Ce qui rend l'étude de Berkeley digne d'intérêt, c'est la prudence de sa conclusion. Les auteurs n'ont pas annoncé l'absence de biais. Ils ont souligné que le biais s'était déplacé : ce qui orientait les candidats vers des filières saturées et sélectives se situait en amont des comités d'admission, et leurs données ne permettaient pas de l'observer. La désagrégation leur a indiqué où ne pas chercher, ce qui constitue un résultat réel et modeste.
Quel nombre devriez-vous utiliser ?
Voici l'aspect qui fait de ce sujet bien plus qu'une simple curiosité, car la leçon évidente — toujours désagréger — est fausse.
Considérez un essai clinique dans lequel l'attribution du traitement est corrélée à la gravité de l'état du patient : les patients les plus malades ont reçu le nouveau médicament plus fréquemment. De manière globale, le médicament semble nocif. Subdivisé par gravité, il s'avère bénéfique dans chaque strate. C'est la subdivision qu'il faut retenir, car la gravité a influencé l'attribution du médicament ainsi que l'issue. Il s'agit d'un facteur de confusion, et l'ajustement selon cette variable élimine une distorsion.
Considérez à présent un essai où le médicament agit en abaissant la pression artérielle, et où vous effectuez la subdivision selon la pression artérielle mesurée après le traitement. Au sein de chaque strate, le médicament semble n'avoir aucun effet — vous avez effectué le regroupement selon son propre mécanisme. Ici, la valeur globale est la bonne, et l'ajustement détruit l'effet que vous cherchiez à mesurer. Le bac à sable dispose également d'un préréglage pour cette structure : un collisionneur, une variable vers laquelle pointent les deux entrées, où le conditionnement par cette variable crée de toutes pièces une relation inexistante.
Ces deux cas peuvent produire des tableaux de chiffres identiques. Rien au sein des données ne permet de les distinguer. Le choix entre données globales et données subdivisées repose sur une affirmation concernant l'antériorité d'une variable par rapport à l'autre — c'est-à-dire sur la structure causale —, et la structure causale ne se trouve pas dans les colonnes. C'est pourquoi ce paradoxe est une caractéristique permanente des études observationnelles plutôt qu'une énigme à résoudre une fois pour toutes : la statistique restreint le champ des possibles, et un élément extérieur à la statistique doit trancher.
Simpson lui-même a soulevé ce point en 1951, dans un article plus prudent que sa réputation ne le laisse penser. Il a construit l'inversion dans un tableau de contingence, puis a soutenu que l'« interprétation raisonnable » dépend du sens des catégories, et non du tableau. L'arithmétique ne présente aucune ambiguïté. La question, elle, en comporte.
Ce qu'il convient de faire
Trois habitudes en découlent, et elles sont simples à adopter.
Tracez les données avant d'ajuster. Une pente globale traversant deux nuages décalés est immédiatement visible sur un nuage de points et invisible dans un coefficient de corrélation. L'outil de régression montre les résidus aux côtés de l'ajustement, et les groupes empilés y laissent une signature inconfondable : des résidus grands, structurés et regroupés plutôt que dispersés.
Formulez par écrit vos hypothèses causales avant d'effectuer les calculs. Si vous ne pouvez pas expliquer la présence d'une variable dans le modèle, vous ne pouvez pas non plus déterminer si son ajustement corrige un facteur de confusion ou détruit un mécanisme — et vous serez en mesure de justifier l'un ou l'autre choix a posteriori, ce qui constitue le véritable danger.
Méfiez-vous d'une valeur globale unique calculée sur des groupes hétérogènes. Moyennes nationales, indicateurs à l'échelle d'une entreprise, tendances agrégées : chacun de ces chiffres est une pente globale traversant des nuages qui évoluent peut-être en sens inverse. L'inversion observée dans le préréglage n'a nécessité que deux groupes et une seule variable corrélée. Les données réelles en offrent des dizaines de chaque.