Parada opcional

Estos experimentos parten sin efecto alguno en los datos. Pulsa Siguiente lote y observa el valor de z tras cada entrega: en cuanto cruza la línea, el experimento se detiene y declara p < 0,05. Luego ejecuta los 999 restantes.

Cargando simulación interactiva...

Lección

La teoría — Parada opcional

Parada opcional es la decisión de cuándo concluir un experimento observando sus resultados sobre la marcha: realizar una prueba tras cada lote de datos y detenerse en cuanto el resultado es significativo. Con el umbral de muestra fija |zk| ≥ 1,96 en cada una de las K inspecciones, la probabilidad de un falso positivo es P(|zk| ≥ 1,96 para algún k ≤ K), estrictamente superior al 5 % para todo K ≥ 2. Una frontera secuencial por grupos elige los umbrales c1, …, cK de modo que esta probabilidad sea exactamente del 5 %: la de Pocock utiliza una constante única y la de O'Brien y Fleming emplea CB√(K/k).

Qué significa cada símbolo

K
el número de inspecciones, distribuidas a intervalos regulares a lo largo de los datos
zₖ
el estadístico z de todos los datos acumulados hasta la inspección k
cₖ
el umbral en la inspección k; el experimento se detiene cuando |zₖ| ≥ cₖ
θ
el efecto real añadido a cada lote, medido en desviaciones estándar del total de un lote
Supone
Los datos siguen una distribución normal con desviación estándar conocida, o son suficientemente numerosos como para aplicar la prueba z; las inspecciones están equiespaciadas; todas las pruebas son bilaterales, con cada inspección ingenua al 5 % y cada frontera al nivel más estricto que preserva la tasa global en el 5 %; y el tamaño muestral máximo está fijado de antemano y es idéntico para todas las reglas, de modo que las inspecciones se limitan a dividirlo.

Cada inspección aporta menos que la anterior, y diez bastan para convertir el 5 % en un 19 % 🖖

Pulsa Diez inspecciones. En estos experimentos no ocurre nada, y la primera inspección se porta como debe: detiene al 5,00 % de ellos, justo lo esperable de una sola prueba. La segunda inspección caza un 3,31 % adicional: experimentos que rozaron el límite en la primera y cruzaron la línea en la segunda. Cada inspección posterior añade un poco menos —apenas 0,81 puntos al llegar a la décima—, lo que crea la falsa ilusión de que mirar sale gratis; pero el acumulado tras diez inspecciones ya es del 19,34 %. La tabla muestra adónde conduce esto: de 4 a 100 inspecciones, cada vez que se duplica su número se suman entre 5,0 y 5,5 puntos, hasta alcanzar un 37,36 % con cien inspecciones. En ningún lugar de la página se pregunta el tamaño del lote, porque el resultado no depende de ello: diez inspecciones cuestan el mismo 19,34 % tanto si cada lote tiene diez pacientes como si tiene diez mil. Klim McPherson puso esta cifra ante los ojos de los médicos en el New England Journal of Medicine en 1974: diez inspecciones sin corregir convertían un 5 % nominal en casi un 20 %, cinco años después de que él mismo, Peter Armitage y B. C. Rowe tabularan esta inflación en el Journal of the Royal Statistical Society. El valor p en el momento de parar se calcula como si el ensayo se hubiera planeado para terminar justo ahí, cuando en realidad no fue así.

Pocock puede permitirse más de un quinto del 5 % en cada una de sus cinco inspecciones 🖖

Pulsa Pocock, cinco inspecciones. Un mismo umbral en cada inspección, elevado hasta que la tasa global sea exactamente del 5 %: |z| ≥ 2,413, correspondiente a un valor p inferior a 0,0158. Repartir el 5 % a partes iguales daría 0,01 por inspección —la corrección de Bonferroni de las <a href="/stat/multiple-comparisons">comparaciones múltiples</a>—, una exigencia excesiva para este caso. Las cinco pruebas comparten datos. Los datos de la cuarta inspección suponen cuatro quintas partes de los de la quinta; la correlación entre ambos estadísticos z es √(4/5) = 0,894, por lo que un experimento que cruza el umbral en la quinta casi siempre se quedó cerca en la cuarta. Sumar las cinco probabilidades, 5 × 0,0158 = 7,9 %, cuenta estos solapamientos más de una vez. La diferencia crece con el número de inspecciones: con 100 de ellas, Pocock permite p < 0,0040 en cada una, ocho veces 0,05/100. Stuart Pocock desarrolló el método en Biometrika en 1977 justo para el supuesto de esta página: grupos de pacientes de igual tamaño y una respuesta normal con varianza conocida. Pulsa ahora O'Brien–Fleming, cinco inspecciones. Su umbral desciende a medida que se acumulan los datos, CB√(K/k): 4,562 en la primera inspección, donde p debe quedar por debajo de unos 0,000005, y 2,040 en la quinta. Las barras ilustran el efecto: cuatro quintas partes de ese 5 % se gastan en las dos últimas inspecciones.

Con un efecto real, O'Brien–Fleming conserva casi toda la potencia y Pocock pierde nueve puntos 🖖

Pulsa Pocock, efecto real. El efecto está calibrado para que una sola prueba con todos los datos lo detecte el 80 % de las veces. Repartidos en cinco inspecciones con la frontera de Pocock, esos mismos datos lo detectan el 70,89 % de las veces. A cambio, el experimento concluye antes: consume de media el 70,7 % de los datos. Pulsa O'Brien–Fleming, efecto real: 78,88 %, usando de media el 80,1 % de los datos. Su último umbral, 2,040, apenas resulta más estricto que 1,96, de modo que un experimento que llega al final se juzga casi como si fuera una prueba única. La tabla va más allá: con 100 inspecciones, O'Brien–Fleming todavía conserva el 77,85 % y Pocock se queda en el 60,65 %. Las dos columnas de cualquier p < 0,05 muestran por qué detenerse ante cualquier p < 0,05 parece tan atractivo a quien realiza el ensayo. Con cinco inspecciones detecta el efecto el 84,84 % de las veces —por encima de ambas fronteras—, pero solo porque también habría declarado un efecto el 14,17 % de las veces cuando no había absolutamente nada.

Problema resuelto al detalle

  1. La cuarta inspección de diez 4 pasos

    Una tienda en línea prueba una nueva pasarela de pago con 10.000 visitantes y comprueba el resultado cada 1.000. Con la frontera de O'Brien–Fleming, ¿cómo de pequeño debe ser el valor p en la cuarta inspección para que la prueba se detenga ahí? Pulsa primero Diez inspecciones, O'Brien–Fleming: la página indica el umbral de la primera y de la última inspección.

    Abre este problema en la herramienta

    1. Según la página, el umbral en la última inspección es CB:

    2. Todos los demás umbrales equivalen a CB multiplicado por √(K/k). En la cuarta inspección de diez:

    3. Como valor p bilateral, a partir de la distribución normal:

    4. A modo de comparación, detenerse con cualquier p < 0,05 a lo largo de esas mismas diez inspecciones da, según la tabla:

    Respuesta

    p por debajo de 0,00097, cerca de uno de cada mil. Un resultado de p = 0,004 en la cuarta inspección, que pondría fin a una prueba ingenua con un titular llamativo, permite que la prueba de O'Brien–Fleming siga adelante. En la décima inspección el listón se sitúa en p < 0,0369, apenas más estricto que 0,05, y todo el procedimiento preserva la tasa de falsos positivos en el 5 %, frente al 19,34 % que se colaría parando al primer p < 0,05.

Ruta de aprendizaje

Lo que p < 0,05 no promete

Referencias (2)