Valikuline peatamine

Siinsetes katsetes tegelikku mõju ei ole. Vajutage Järgmine partii ja jälgige z-skoori iga uue andmepartii järel: niipea kui see ületab piirjoone, katse peatub ja kuulutab p < 0,05. Seejärel käivitage ülejäänud 999.

Interaktiivse simulatsiooni laadimine...

Õppetund

Teooria — Valikuline peatamine

Valikuline peatamine tähendab katse lõpetamise üle otsustamist vahetulemuste põhjal: andmeid testitakse iga partii järel ning katse katkestatakse kohe, kui tulemus on statistiliselt oluline. Kasutades fikseeritud valimi läve |zk| ≥ 1,96 kõigil K vaatlusel, on valepositiivse tulemuse tõenäosus P(|zk| ≥ 1,96 mõne k ≤ K korral), mis ületab 5% iga K ≥ 2 puhul. Rühmjärjestikune piir seab läved c1, …, cK nii, et see kogutõenäosus on täpselt 5%: Pococki reegel kasutab ühte püsiväärtust, O'Brieni ja Flemingi oma valemit CB√(K/k).

Mida iga sümbol tähendab

K
vaatluste arv, mis jagunevad andmete vahel võrdsete vahedega
zₖ
kõigi vaatluseni k kogutud andmete z-statistik
cₖ
lävi vaatlusel k; katse peatub, kui |zₖ| ≥ cₖ
θ
tegelik mõju, mis lisandub igale partiile, mõõdetuna ühe partii summa standardhälvetes
Eeldab
Andmed alluvad teadaoleva standardhälbega normaaljaotusele või on valim piisavalt suur z-testi kehtimiseks; vaatlused toimuvad võrdsete vahede järel; kõik testid on kahepoolsed (lihtne vaatlus 5% nivoo juures ja piirid rangemal tasemel, mis hoiab kogumäära 5% peal); maksimaalne valimimaht on ette määratud ning kõigi reeglite puhul sama, nii et vaatlused üksnes jaotavad seda.

Iga vaatlus lisab eelmisest vähem, kuid kümnest piisab, et 5%-st saaks 19% 🖖

Vajutage Kümme vaatlust. Nendes katsetes ei toimu tegelikult midagi ja esimene vaatlus käitub ootuspäraselt: see peatab 5,00% katsetest, täpselt nagu üks test peabki. Teine vaatlus püüab kinni veel 3,31% katseid, mis esimesel korral jäid napilt joone alla, kuid teisel üle triivisid. Iga järgnev vaatlus lisab järjest vähem (kümnes vaid 0,81 punkti), mis tekitab petliku tunde, et iga lisaandmete piilumine on peaaegu tasuta. Ometi koguneb kümne korraga kokku 19,34%. Tabel näitab, kuhu see tee viib. Vaatluste arvu kasvades 4-lt 100-le lisab iga kahekordistumine 5,0 kuni 5,5 punkti, nii et saja vaatluse juures jõutakse 37,36%-ni. Siinsel lehel ei küsita kuskil andmepartii suurust, sest tulemus sellest ei sõltu: kümme vaatlust maksavad needsamad 19,34%, olgu igas partiis kümme või kümme tuhat patsienti. Klim McPherson tõi need arvud arstide ette ajakirjas New England Journal of Medicine 1974. aastal, näidates, kuidas kümme korrigeerimata vaatlust muudavad esialgse 5% peaaegu 20%-ks. Viis aastat varem olid tema, Peter Armitage ja B. C. Rowe selle paisumise tabelina avaldanud ajakirjas Journal of the Royal Statistical Society. Peatumise hetkel arvutatud p-väärtust tõlgendatakse nii, nagu olekski katse pidanud seal lõppema, ehkki see polnud nii kavandatud.

Pocock saab igal vaatlusel lubada enamat kui viiendikku 5%-st 🖖

Vajutage Pocock, viis vaatlust. Igal vaatlusel kehtib sama lävi, mida tõstetakse seni, kuni kogumäär on täpselt 5%: |z| ≥ 2,413, mis vastab p-väärtusele alla 0,0158. Kui jagada 5% võrdselt ära, saaksime 0,01 vaatluse kohta. See on <a href="/stat/multiple-comparisons">mitmese testimise</a> Bonferroni parandus, ent siin osutub see liiga karmiks. Need viis testi ei ole sõltumatud: nad toetuvad samadele andmetele. Neljanda vaatluse andmed moodustavad neli viiendikku viienda vaatluse omadest ja kahe z-skoori korrelatsioon on √(4/5) = 0,894. Katse, mis ületab läve viiendal vaatlusel, oli sellele enamasti väga lähedal juba neljandal. Liites viis tõenäosust lihtsalt kokku, 5 × 0,0158 = 7,9%, arvestataks neid kattuvaid juhtumeid mitu korda. Vaatluste lisandudes vahe käriseb: saja vaatluse juures lubab Pocock igal korral taset p < 0,0040, mis on kaheksa korda leebem kui 0,05/100. Stuart Pocock töötas selle meetodi välja 1977. aastal ajakirjas Biometrika just nimelt siinse olukorra jaoks: võrdsed patsientide rühmad ja teadaoleva dispersiooniga normaaljaotus. Nüüd vajutage O'Brien–Fleming, viis vaatlust. Siin kahaneb lävi andmete kogunedes valemi CB√(K/k) järgi: esimesel vaatlusel on see 4,562 (kus p peab olema alla 0,000005) ja viiendal langeb 2,040-ni. Tulbad näitavad tagajärge ilmekalt: neli viiendikku lubatud 5%-st kulutatakse kahel viimasel vaatlusel.

Tegeliku mõju korral säilitab O'Brien–Fleming peaaegu kogu võimsuse, Pocock aga kaotab üheksa punkti 🖖

Vajutage Pocock, tegelik mõju. Mõju suurus on valitud nii, et ühekordne test kõigil andmetel tuvastaks selle 80% juhtudest. Pococki piiriga viie vaatluse peale jagatuna avastavad needsamad andmed mõju 70,89% tõenäosusega. Vastutasuks saab katse sageli varem lõpetada: keskmiselt kulub vaid 70,7% andmetest. Vajutage O'Brien–Fleming, tegelik mõju: võimsus on 78,88% ja andmetest kulub keskmiselt 80,1%. Selle viimane lävi 2,040 on vaevalt rangem kui 1,96, mistõttu lõpuni kulgevat katset hinnatakse peaaegu samamoodi nagu ühekordset testi. Tabel jätkab sama rida: 100 vaatluse juures on O'Brieni–Flemingi võimsus endiselt 77,85%, Pocockil aga 60,65%. Kaks suvalise p < 0,05 veergu selgitavad, miks reegliteta peatamine tundub eksperimenteerijale nõnda ahvatlev. Viie vaatluse juures tuvastab see mõju 84,84% kordadest, rohkem kui kumbki piiridest, ent üksnes seepärast, et see oleks kuulutanud leidu ka 14,17% juhtudest siis, kui andmetes polnud tegelikult mitte midagi.

Ülesanne täielikult lahendatud

  1. Neljas vaatlus kümnest 4 sammu

    Veebipood katsetab uut ostukorvi lehte 10 000 külastajal ja vaatab tulemusi iga 1 000 järel. Kui väike peab O'Brieni–Flemingi piiri järgi olema p-väärtus neljandal vaatlusel, et katse seal peatuks? Vajutage esmalt Kümme vaatlust, O'Brien–Fleming: leht annab läve esimesel ja viimasel vaatlusel.

    Ava see ülesanne tööriistas

    1. Lehelt näeme, et viimase vaatluse lävi on CB:

    2. Iga teine lävi on CB korrutatuna teguriga √(K/k). Neljandal vaatlusel kümnest:

    3. Kahepoolse p-väärtusena normaaljaotusest:

    4. Võrdluseks tabelist: peatumine suvalise p < 0,05 korral sama kümne vaatluse jooksul:

    Vastus

    p alla 0,00097 ehk ligikaudu üks tuhandest. Neljanda vaatluse tulemus p = 0,004, mis naiivse testimise puhul tooks kaasa võiduka pealkirja, laseb O'Brieni–Flemingi katsel rahulikult edasi kesta. Kümnendal vaatlusel on latiks p < 0,0369, mis on vaid pisut rangem kui 0,05, ning kogu protseduur hoiab valepositiivsete määra 5% peal — samal ajal kui esimese p < 0,05 juures peatudes lipsaks läbi tervelt 19,34%.

Õpitee

Mida p < 0,05 ei luba

Allikad (2)