See on masintõlge ja ingliskeelne tekst on originaal. Loe originaali
Regressioonisirgeid on kaks ning R² on nendevaheline vahe
Vaheta ära, kumba muutujat nimetad sisendiks, ja parima sobivusega sirge nihkub. R² näitab täpselt, kui palju.
Vähimruutude meetod leiab sirge, mis minimeerib ruutvigu. Väljend peidab endas aga valikut: millises suunas vigu mõõdetakse?
Muutuja y sobitamine x suhtes minimeerib vertikaalseid vahemaid. Muutuja x sobitamine y suhtes minimeerib horisontaalseid vahemaid. Need on erinevad ülesanded erinevate vastustega, ja mõlemat nimetatakse regressioonisirgeks.
Kaks tõusu
Tähistame tähega r korrelatsiooni ja tähega s standardhälbeid. Sirge y x-i suhtes tõus on r·sy/sx. Samadele telgedele joonistatud sirge x y-i suhtes tõus on sy/(r·sx).
Jaga üks teisega ja kõik taandub välja, välja arvatud r².
See ei ole juhus ega ligikaudne tulemus. Kahe tõusu suhe on R², arv, mida iga statistikapakett väljastab ja mida enamik lugejaid peab ebamääraseks skooriks ühest.
Miks keegi seda ei märka
Ava tööriist Linear Regression ja see kuvab vaikeandmete korral Pearsoni r = 0,998 ning R² = 0,996. Tõsta esimene ruutu ja saad täpselt teise.
Samuti tähendab see, et need kaks sirget erinevad vaikeandmete puhul vaid 0,4%. Sa ei näeks erinevust, kui mõlemad oleksid joonistatud, mis on täpselt põhjus, miks see kahemõttelisus jääb märkamatuks: näitlikustavad andmed on peaaegu alati tugevas korrelatsioonis.
Vähenda korrelatsiooni ja need kaks sirget eemalduvad kiiresti teineteisest:
- r = 0,9 → tõusud erinevad 19%
- r = 0,5 → üks tõus on teise omast neli korda suurem
- r = 0 → üks sirge on horisontaalne, teine vertikaalne
Nullkorrelatsiooni korral on need kaks tulemust teineteisega risti. Mõlemad on siiski õiged, sest kumbki on oma sihi parim prognoosija.
Juhtum r = 0,5 arvudes
Võtame kaks võrdse hajuvusega muutujat, mille korrelatsioon on 0,5. Muutuja y prognoosimine x-i kaudu annab tõusuks 0,5: punkt, mis on keskmisest ühe standardhälbe võrra paremal, prognoosib keskmisest poole hälbe võrra kõrgemat väärtust.
Prognoosime nüüd x-i y-i kaudu. See tõus on oma süsteemis samuti 0,5, kuid algsetele telgedele kantuna saab sellest 1/0,5 = 2.
Üks sirge tõuseb määraga 0,5, teine määraga 2 läbi samasuguse punktipilve, ning 0,5 / 2 = 0,25, mis on r². Kumbki ei sobitu teisest halvemini. Need vastavad erinevatele küsimustele ja andmed üksi ei saa öelda, kumba sa silmas pidasid.
See on regressioon keskväärtuse suunas
Standardhälvetes väljendatuna on sirge y x-i suhtes lihtsalt zy = r · zx. Kuna r on maksimaalselt 1, on prognoos alati keskväärtusele lähemal kui sisend.
Pikkadel isadel on pojad, kes on pikad, kuid keskmisele lähemal. Ettevõtetele, millel on suurepärane aasta, järgneb tavaliselt lihtsalt hea aasta. Kumbki ei vaja põhjust ning lõks seisneb selles, et nähtus on sümmeetriline: ka nendel poegadel on isad, kes on keskmisele lähemal kui nemad ise. Iga selgitus, mis seletab seda nähtust ühes suunas, lükatakse ümber teise suuna tõttu.
Galton nimetas seda regressiooniks keskpärasuse suunas ja sõna „regressioon” jäi selle tõttu kogu meetodi nimetuseks.
Kui kumbki sirge pole see, mida vajad
Mõlemad sirged eeldavad, et ühte muutujat mõõdetakse ilma veata. Kui mõlemad sisaldavad müra, nagu kahe mõõteriista võrdlemisel, on mõlemad sirged nihkega ning tegelik vastus jääb nende vahele.
Tööriist Least-Squares Geometry muudab aluspildi näitlikuks: sobitamine on projektsioon ning see, millise sirge saad, sõltub projekteerimise suunast. Selle vaikesobitus näitab jääkruutude summat (SSE) 1,3714, millest 37,2% pärineb ühest ainukesest punktist – mis on teine asi, mida vähimruutude meetod vaikselt teeb. Vigade ruutu tõstmine tähendab, et üks kaugel asuv punkt võib paljud lähedal asuvad punktid üle kaaluda.
Seega enne sirge tõusu esitamist otsusta, milleks seda kasutatakse. Muutuja y prognoosimine x-i kaudu on üks küsimus, kahe müra sisaldava suuruse vahelise füüsikalise seose hindamine aga teine, ning ainult esimesel on üksainus ilmselge sirge.