ANOVA F-test

Võrdle rühmadevahelist ja rühmasisest dispersiooni, et testida, kas rühmade keskväärtused erinevad.

Interaktiivse simulatsiooni laadimine...

Õppetund

Teooria — ANOVA F-test

Ühefaktoriline dispersioonanalüüs ei küsi, kas mitme rühma keskmised erinevad — mõõdetud keskmised erinevad alati veidi. Ta küsib, kas need erinevad rohkem, kui pelk juhuslik valim seda tekitaks. F-statistik teeb selle võrreldavaks, asetades hajuvuse rühmakeskmiste vahel hajuvuse peale rühmade sees, ja p-väärtus ütleb, kui sageli juhus üksi nii suure suhte saavutaks.

Mida iga sümbol tähendab

MS_between
rühmadevaheline keskmine ruut: kui kaugel rühmakeskmised üldkeskmisest asuvad, vabadusastme kohta.
MS_within
rühmasisene keskmine ruut: vaatluste tavaline hajuvus ümber oma rühma keskmise. See on mõõdupuu.
F
nende suhe. Umbes 1, kui rühmad on sarnased, sest siis hindavad mõlemad sama asja.
p
tõenäosus, et tõeliselt ühesugused rühmad annaksid vähemalt nii suure F-i.

Kust valem tuleb

  1. Oletagem hetkeks, et kõigil rühmadel on sama keskmine. Siis pärinevad kõik vaatlused ühest populatsioonist ja selle populatsiooni dispersiooni saab teie andmetest hinnata kahel teineteisest sõltumatul viisil.
  2. Esimene eirab rühmitust täielikult ja mõõdab ainult hajuvust iga rühma sees: see on MS_within. See hindab populatsiooni dispersiooni sõltumata sellest, kas keskmised erinevad — ja just see teeb temast ausa mõõdupuu.
  3. Teine kasutab ainult rühmakeskmisi. Kui rühmad on tõesti ühesugused, kõiguvad keskmised siiski pelgalt valimi tõttu laiali, ja selle kõikumise suurus on ise sama populatsiooni dispersiooni hinnang: see on MS_between. Kui keskmised ei ole ühesugused, paisutavad tegelikud erinevused seda teist hinnangut lisaks.
  4. Suhe F = MS_between / MS_within asetab niisiis hinnangu, mis kasvab keskmiste erinedes, vastamisi hinnanguga, mis ei kasva. Eeldusel „kõik keskmised võrdsed“ peaks see maanduma 1 lähedale ja järgib tuntud jaotust — ülal joonistatud kõverat, mille määravad täielikult kaks vabadusastet. P-väärtus on selle kõvera pindala teie F-ist paremal.

Kuidas nähtut lugeda

Sinine kõver on see, mida F teeks, kui kõik rühmakeskmised oleksid ühesugused, ja ta ei sõltu millestki peale kahe vabadusastme — mitte teie andmetest. Punane varjutatud saba on tagasilükkamise piirkond: väärtused nii kaugel, et juhuslikult tuleksid need ette vähem kui α korral, ning katkendjoon kriitilise väärtuse juures märgib selle algust. Roheline joon näitab, kuhu teie F tegelikult langes. Kogu test ongi küsimus, kummale poole katkendjoont roheline jääb, ja p-väärtus on pindala sellest paremal.

Eeldab
Vaatlused üksteisest sõltumatud, igas rühmas ligikaudu normaaljaotusega ja — see on see valus — rühmade lõikes ligikaudu võrdsete dispersioonidega. See leht alustab kahest keskmisest ruudust, mitte teie andmetest, seega ei saa ta ühtegi neist kolmest teie eest kontrollida. Ta arvutab meelsasti enesekindla väljanägemisega p-väärtuse ükskõik millisest positiivsete arvude paarist.
Ei kehti, kui
Võrdsed dispersioonid on koht, kus asi vaikselt viltu läheb. MS_within koondab kõigi rühmade hajuvuse üheks mõõdupuuks, ja kui üks rühm on teistest palju muutlikum, ei kirjelda see mõõdupuu ühtegi neist; statistik ei järgi enam ülalolevat kõverat ja p-väärtus mõõdab pindala vale jaotuse all. Tavaline lahendus on Welchi ANOVA, mis midagi kokku ei koonda. Ebavõrdsed rühmasuurused teevad sama probleemi hullemaks, sest koondhinnangut hakkab valitsema juhtumisi suurim rühm.

Arv, mida ületada, on 1, mitte 0 🖖

F on kahe dispersiooni suhe ja juba see määrab selle neutraalseks väärtuseks 1, mitte 0. Kui rühmad on tõepoolest sarnased, hindavad nii rühmakeskmiste vaheline hajuvus kui ka rühmasisene hajuvus mõlemad sama üldkogumi dispersiooni, mistõttu peaks suhe jääma 1 lähedale — määra mõlemaks keskmiseks ruuduks 3 ning näit on täpselt 1. Väärtus 0 nõuaks rühmakeskmiste täielikku kattumist, mida tegelike valimite puhul kunagi ei juhtu. Suhe on lisaks sõltumatu mõõtühikutest: 4 jagatud 3-ga annab 1.3333, nagu ka 4000 jagatud 3000-ga. Korruta iga uuringu mõõtmine tuhandega ja F ei muutu.

Seesama F muutub korraga veenvamaks ja vähem muljetavaldavaks 🖖

Hoidke F väärtusel 3,555 ja muutke ainult rühmasiseseid vabadusastmeid. Kui df₂ = 10, on p-väärtus 0,068195 ja te ei lükkaks ümber; 18 juures on see 0,049984, täpselt piiril; 100 juures 0,032248. Suhe ei liikunud kuhugi — muutus ainult selle taga olev andmehulk. Lugege nüüd sama muutuse juures efekti suurust: η² langeb 0,2832 pealt 0,0664 peale. Rohkem andmeid teeb sama F-i raskemini kõrvale heidetavaks ja kirjeldab samas hingetõmbes väiksemat osa hajuvusest. Olulisus vastab küsimusele „kas see võib olla müra?“, efekti suurus küsimusele „kas sellest on kasu?“ — ja siin osutavad nad vastassuundadesse.

Efekti suurus on R² teise nime all 🖖

η² on see osa kogu hajuvusest, mille annab rühma kuulumine — rühmadevaheline ruutude summa jagatud kogusummaga. Võtke nüüd needsamad andmed ja sobitage regressioon, mis ennustab iga vaatlust tema enda rühma keskmisega: selle R² on täpselt seesama arv. Näidiku valem η² = F·df₁ / (F·df₁ + df₂) on lihtsalt seesama suhe, ümber kirjutatud suuruste kaudu, mida ANOVA tabel niikuinii välja trükib. Dispersioonanalüüs ja lineaarne regressioon pole kaks sarnaseid vastuseid andvat meetodit, vaid üks arvutus kahe sõnavaraga — ja see rida on koht, kus need kaks sõna kokku puutuvad.

Ülesanne täielikult lahendatud

  1. Kolm rühma, kolmkümmend vaatlust ja F väärtusega 1,33 5 sammu

    Kolm rühma, kolmkümmend vaatlust ja F-väärtus 1,33, mis ei ole oluline. Selgita välja, kust need vabadusastmed pärinevad ja miks ei saa selle asemel lihtsalt teha kolme t-testi.

    1. F-statistik on kahe dispersioonihinnangu suhe: kui palju rühmade keskmised erinevad jagatuna sellega, kui palju vaatlused rühmade sees hajuvad. Väärtus 1 lähedal näitab, et rühmad erinevad umbes samal määral, kui võiks tekkida pelgalt juhuse tõttu.

    2. Vabadusastmed reedavad katseplaani ilma seda otse ütlemata. Esimene on rühmade arv miinus üks, seega on rühmi kolm; teine on vaatluste koguarv miinus rühmade arv, seega on vaatlusi kolmkümmend.

    3. Iga keskmise ruudu korrutamine selle vabadusastmetega taastab ruutude summad — 8 rühmadevaheline ja 81 rühmasisene, kokku 89.

    4. Nende suhe on eta-ruut ehk rühmitamise poolt selgitatud osa koguhajuvusest. Üheksa protsenti.

    5. Teine võimalus on võrrelda kolme rühma paariviisi, mis tähendab kolme t-testi. Igaühega kaasneb 5% valepositiivsuse määr, seega on vähemalt ühe valehäire tõenäosus 1 − 0,95³.

    Vastus

    Tööriist kuvab väärtused F = 1,3333, vabadusastmed (2, 27) ja η² = 0,0899. Siit järeldub kaks asja. Esiteks ei ole efekti suurus null — rühmitamine selgitab tõepoolest 9% hajuvusest —, kuid nõnda suure rühmasisese hajuvuse korral pole see midagi erilist, mis ongi täpselt see, mida mitteoluline F tähendab ja mida inimesed kipuvad unustama, tõlgendades seda kui "erinevuse puudumist". Teiseks põhjus, miks ANOVA olemas on: kolm paariviisilist t-testi toovad kaasa 14,3% tõenäosuse vähemalt üheks valepositiivseks tulemuseks 5% asemel, mida arvasid saavutavat, ning viie rühma puhul tähendab see kümmet testi ja 40% tõenäosust. Lahendus on üks test kõigi rühmade kohta korraga.

Õpitee

Millal on erinevus tegelik?

Viib edasi Hii-ruut sama võrdluse suvalise arvu rühmade jaoks.

Allikad (3)

Näiteülesanded

  • Nõrk signaal - MSB 4 MSW 3 vastu → F = 1.3333 vabadusastmetel (2, 27): ületada tuleb 1, mitte 0, nii et signaali on napilt
  • Tugev signaal - MSB 18 MSW 2 vastu → F = 9 vabadusastmetel (3, 40), efekti suurus η² = 0.403
  • F ja efekti suurus on vastuolus - MSB 5 MSW 4 vastu → F = 1.25, madalam kui nõrgal juhul, samal ajal kui η² tõuseb 0.122-ni — F ja efekti suurus võivad lahku minna
  • Täpselt piiril - MSB 7,11 vs MSW 2 → F = 3,555 vabadusastmetel (2, 18), napilt üle 0,05 kriitilise väärtuse 3,5546, seega p = 0,049984 — ja vähimgi nihe pöörab otsuse ümber