Vähimruutude geomeetria uurija

Sobita reaalseid andmeid sirge või kõveraga ning uuri jääke, mida vähimruutude meetod püüab minimeerida.

Näidisarvutus — Vähimruutude geomeetria uurija

Punktid	6
Sobitatud mudel	42.7143+5.9143x
Jääkruutude summa (SSE)	1.3714
RMSE	0.4781
Suurima punkti SSE osakaal	37.2%

Need on väärtused, mida kalkulaator lehe avamisel näitab. Muuda ülal mõnda sisendit, et need ümber arvutada.

Interaktiivse simulatsiooni laadimine...

Õppetund

Teooria — Vähimruutude geomeetria uurija

„Vähimruudud“ nimetab seda, mida minimeeritakse: jääkide ruutude summat. Geomeetriliselt on sobitatud väärtused teie andmetele lähim punkt kõverate hulgas, mida mudel saab tekitada — lähim tavapärases sirgjoonelises tähenduses, mistõttu jääb järelejäänud jääkvektor risti kõigega, mida mudel oleks saanud teha.

Mida iga sümbol tähendab

residual: üks vahe andmepunkti ja sobitatud kõvera vahel, mõõdetuna vertikaalselt. Väljund loetleb need kõik enne ruutu võtmist.
SSE: vigade ruutude summa — liida kokku kõigi jääkide ruudud. Siinse sirgsobituse puhul 1.3714.
RMSE: ruutkeskmine viga, √(SSE/n) = 0.4781. Erinevalt SSE-st on see samades ühikutes mis y, mistõttu tasub just seda esitada.
model: lubatud kõverate pere. Üleminek sirgelt ruutkõverale laiendab seda peret kahelt vabalt arvult kolmele.

Kust valem tuleb

Iga kandidaatkõver annab sobitatud väärtuste loendi. Käsitle seda loendit ühe punktina n-mõõtmelises ruumis ja oma andmeid teise punktina seal.
SSE on seejärel sõna otseses mõttes nende kahe punkti vahelise kauguse ruut. SSE minimeerimine tähendab andmetele lähima saavutatava punkti leidmist — see on projektsioon, mitte otsing.
Projektsiooni määratlev omadus on see, et viga on risti kõigega, mis on saavutatav. Seetõttu on parima sobituse jääkide summa alati null ja neil puudub järelejäänud korrelatsioon x-ga: iga selline muster osutaks suunale, kuhu mudel oleks saanud veel liikuda.

Kuidas nähtut lugeda

Punktide arv, seejärel lahtikirjutatud sobitatud mudel, seejärel liikmete kaupa esitatud SSE — −0.7143² + 0.3714² + 0.4571² + ⋯ = 1.3714 — nii et näete, milline punkt sobitust halvendab, enne kui ruudud märgid varjavad. RMSE tuleb viimasena inimloetava kokkuvõttena.

Eeldab: Ainult vertikaalsed vahed, seega käsitletakse x-i täpsena ja iga punkti kaalutakse võrdselt. Samuti peab mudel olema lineaarne oma parameetrite suhtes — mida ruutkõver kõverusest hoolimata siiski on, sest x² tuleb sisse konstandiga korrutatuna.
Ei kehti, kui: Väiksem SSE ei tähenda paremat mudelit ja saate seda siin ühe klõpsuga tõestada. Vahetage sirge ruutkõvera vastu ning SSE langeb väärtuselt 1.3714 väärtusele 0.4071 — see pidigi langema, sest ruutkõver sisaldab iga sirget erijuhuna, kus x² kordaja on null. Suurema vabadusega mudel ei saa halvemini sobituda, seega ei saa SSE üksinda kunagi öelda, kas lisaliige on tegelik või sobitatakse sellega müra.

Parim sobitussirge läbib alati keskmiste punkti 🖖

Ükskõik millised sinu andmed on, vähimruutude sirge läbib kindlasti punkti (x̄, ȳ) — punkti, mis on moodustatud x-väärtuste keskmisest ja y-väärtuste keskmisest. See ei ole kalduvus, vaid tuleneb otse tingimusest, et jäägid summeeruvad nulliks, ja kehtib seetõttu eranditult iga andmestiku puhul. See annab tasuta kontrolli: märgi keskmiste punkt ära ja iga kandidaatsirge, mis sellest mööda läheb, ei ole vähimruutude sobitus. See selgitab ka meetodi nõrkust. Kuna vahed võetakse ruutu, tõmbab kaks korda kaugemal olev punkt neli korda tugevamalt, nii et üksainus kõrvalekalle võib sirget rohkem kallutada kui tosin hästi käituvat punkti seda paigal hoiab.

Miks me vahed ruutu tõstame 🖖

Tööriist liidab kokku iga punkti ja sirge vahelise püstise vahe ruudud ning otsib seejärel sirge, mis teeb selle summa võimalikult väikeseks. Ruutu tõstmine tähendab, et kaks korda suurem vahe loeb neli korda rohkem, seega väldib sobitus visalt iga üksikut suurt möödalaskmist. Lohista üks punkt kaugele ja vaata, kuidas kogu sirge selle poole paiskub — see tõmme on ruutu tõstmise otsene hind.

Regressioon ei ole sümmeetriline 🖖

Kuna vähimruutude meetod kahandab ainult püstiseid vahesid, eeldab see vaikimisi, et y on sihtsuurus ja x on täpne. Vaheta teljed ja sobita uuesti — saad teistsuguse sirge, mitte oodatud peegelpildi. Mõlemad sirged läbivad andmete keskpunkti (x̄, ȳ), kuid langevad kokku vaid siis, kui punktid asuvad täpselt ühel sirgel. Kaks tõusu annavad korrutamisel isegi r², korrelatsiooni ruudu.

Harjutus

Kontrolli ennast

Ennusta vastust esmalt ise ja kasuta siis ülal olevaid juhtelemente. Ava lahendus alles siis, kui oled otsustanud — just see teebki sellest harjutuse.

Vajuta pidurdamine sirgega: kuus punkti, sirge sobitus, SSE 84. Vajuta nüüd pidurdamine kõveraga — needsamad kuus punkti, sobitatud ruutfunktsiooniga. Ennusta uus SSE.

Näita vastust

0. Mitte peaaegu null, vaid null, RMSE 0 ja sobitatud kõver ŷ = 8 − 0.25x + 0.015x². Need kuus punkti pärinevad täpselt sellelt paraboolilt, ja niipea kui lubatud kõverate pere sisaldab tõde, ei jää ruutu tõsta enam midagi. Langev SSE ei tõesta iseenesest midagi — laiem pere ei saa kunagi halvemini sobituda. Langus päris põrandani on aga teist laadi, sest ei jää ühtki jääki, mida mõni edasine mudel saaks veel eemaldada.
Vajuta kursuse püsimäär, mis sobitub sirgega, SSE 1.3714 ja suurima punkti SSE osakaal 37.2%. Lülita mudelivalik Ruutfunktsioon peale. SSE langeb — ennusta, mida teeb suurima punkti osakaal.

Näita vastust

See tõuseb, 56.3% peale, samal ajal kui SSE langeb 0.4071 peale. Osakaal ei ole kogus: lisavabadus tõmbas kõvera nende punktide poole, milleni ta ulatus, nii et see üks, milleni ta ikka ei ulatu, moodustab nüüd suurema osa väiksemast koguhulgast. Üks hoiatus, kuni sa siin oled — iga eelseade lülitab valiku tagasi Sirge peale, seega tähendavad need arvud seda ainult niikaua, kuni Ruutfunktsioon on veel valitud.
Tagasi pidurdamine sirgega juurde. Väljund näitab enne oma ⋯ viit jääki kuuest: 5, −1, −4, −4, −1. Mis on kuues, ja mida ütlevad kõik kuus koos, mida SSE 84 ei ütle?

Näita vastust

+5. Vähimruutude sobituse jäägid liituvad alati nulliks ja viis näidatut annavad −5, seega on puuduv sunnitud. Jääkide graafik joonistab täpselt selle kuju: kaks kõrget tulpa üles otstes, neli keskel alla vajumas, puhas U. Nulliks liitumine ja x-i suhtes kalde puudumine on kõik, mida vähimruutude meetod tagab, ja sümmeetriline U täidab mõlemat — selle jäägid liituvad tõepoolest nulliks ega kaldu kummalegi poole — sirge ei suuda seda seega ei neelata ega märgata. SSE ütleb, et sobitus on lõtv; ainult muster ütleb, et see on lõtv korraga ühes suunas.

Ülesanne täielikult lahendatud

Kuus punkti ruutvigade summaga 1,3714 5 sammu
Kuus punkti, sovitatud sirge ja ruutvigade summa 1,3714. Arvutage, kui suur osa sellest kogusummast pärineb ühestainsast punktist, ning tõestage jääkide kohta tõsiasi, mis kehtib iga kunagi arvutatud vähimruutude sovituse korral.
1. Kordajad pärinevad samast kahest summast nagu iga lihtregressiooni puhul: sellest, kuidas x ja y koos varieeruvad, ning sellest, kuidas x üksi varieerub.
  
  $\overset{x}{ˉ} = 2.5, \overset{y}{ˉ} = \frac{345}{6} = 57.5$
2. See annab sirge, mida paneel kuvab. Nendes andmetes pole midagi erilist — see on peaaegu sirgjooneline kuue punkti rida vähese hajuga.
  
  $b = \frac{S _{x y}}{S _{xx}} = \frac{103.5}{17.5} = 5.9143, a = 57.5 - 5.9143 (2.5) = 42.7143$
3. Jäägid on see, mida sovitus ei suutnud selgitada. Arvutage kõik kuus ja üks neist on silmatorkav: punkt kohal x = 0 eksib −0,7143 võrra, mis on umbes kaks korda rohkem kui tavaline kõrvalekalle.
  
  $r_{i} = - 0.7143, 0.3714, 0.4571, 0.5429, - 0.3714, - 0.2857$
4. Enne nende kasutamist pange tähele, et nende summa on null — mitte ligikaudu, vaid täpselt. Seda nõuab vabaliige: teine normaalvõrrand on väide, et jääkide keskmine on null, seega kehtib see iga vähimruutude sirge kohta olenemata andmetest.
  
  $\sum r_{i} = 0 exactly, SSE = \sum r_{i}^{2} = 1.3714$
5. Ruutu võtmine hävitab selle tasakaalu, ja selles ongi asi. Arvust −0,7143 saab 0,5102, mis moodustab 37,2% SSE kogusummast 1,3714 — üks punkt kuuest kannab enam kui kolmandikku trahvist.
  
  $RMSE = \frac{1.3714}{6} = 0.4781, \frac{( - 0.7143 ) ^{2}}{1.3714} = 37.2%$
Vastus

Tööriist kuvab SSE = 1,3714, RMSE = 0,4781 ja suurima punkti osakaaluks 37,2%. Mõlemad tõsiasjad on olulised ning need töötavad üksteisele vastu. Jääkide nullsumma ütleb, et sirge on tasakaalus; 37,2% ütleb, et sovitus ei ole, sest ruutu võtmine kaalub kahekordset eksimust neli korda raskemalt. Täpselt seetõttu ongi vähimruutude meetod erindite suhtes nii tundlik ja miks jääkide nullsumma omadus ei paku mingit kaitset: üksainus halb punkt ei saa muuta jääkide keskmist, kuid võib siiski domineerida selles, mida sirge üritab minimeerida.

$\sum r_{i} = 0 by construction; one point of six carries 37.2% of SSE$

Õpitee

Sirve sobitamine andmetesse

Viib edasi Lineaarne regressioon sobitatud sirve kui projektsiooni ning põhjuse, miks selle jäägid on mudeliga risti.

Allikad (1)

Least squares as an orthogonal projection, which is what makes the residuals perpendicular to the model: G. Strang, Introduction to Linear Algebra, 5th ed., chapter 4 (“Orthogonality”). Wellesley-Cambridge Press, 2016. ISBN 978-0-9802327-7-6.

42Mathi meeskond · Uuendatud 2026-07-29

Kontrollitud avaldatud allikate põhjal. Parandused on teretulnud. Toimetamispõhimõtted · Parandused

Kõik Matemaatika õppetunnid →

Näiteülesanded

kursuse püsimäär - Kuus punkti, SSE 1,3714 ja R² 0,9978. Need on näidisülesande andmed ning regressioonisirge y = 42,71 + 5,91x läbib keskmiste punkti (2,5; 57,5).
kampaania erind - Esimesed viis punkti asuvad täpselt tõusuga 5 sirgel. Kuues nihutab sobitatud sirge tõusu väärtuseni 8,54 ja moodustab üksi 47,5% SSE-st: üks punkt kuuest annab peaaegu poole veast.
pidurdamine sirgega - Paraboolsete andmetega sobitatud sirge: SSE 84,0 ja R² 0,9618. Tulemus näib korralik, kuni vaatad jääke. Hajumise asemel moodustavad need kõvera.
pidurdamine kõveraga - Samad kuus punkti sobitatuna ruutfunktsiooniga: y = 8 - 0,25x + 0,015x² ning SSE on täpselt 0. Andmed asuvad sellel paraboolil viimase numbrikohani, samal ajal kui sirge SSE oli 84.
kinnisvarahinnad - Seitse korterit hinnaga 2,74 tuhat ruutmeetri kohta, R² 0,998 ja SSE 88,39. Elulähedased andmed, mis paiknevad siiski peaaegu täiuslikult sirgel.