SVD-lahutuse uurija

Lahuta maatriks suundadeks, venitustugevusteks ja madala astakuga taastamiseks.

Näidisarvutus — SVD-lahutuse uurija

Säilitatud energia	88.1%
Kadunud energia	11.9%
Taastamisviga	34.5%
Numbriline astak	3
Σ: venitustugevused	3.5915150003.1622780001.760971

Need on väärtused, mida kalkulaator lehe avamisel näitab. Muuda ülal mõnda sisendit, et need ümber arvutada.

Interaktiivse simulatsiooni laadimine...

SVD kärpimine on tõestatavalt parim, mida teha saab 🖖

Jäta alles ainult k suurimat singulaarväärtust ja viska ülejäänud ära — sa ei ole leidnud lihtsalt korralikku k-astaku lähendit, vaid optimaalse. Eckarti–Youngi–Mirsky teoreem ütleb, et ükski teine k-astaku maatriks ei tule originaalile lähemale, ei Frobeniuse ega spektraalnormis. Viga on täpne, mitte hinnanguline: spektraalnormis võrdub see σ_k+1-ga, esimese ärivisatud singulaarväärtusega, ja Frobeniuse normis kõigi ärivisatud väärtuste ruutude summa ruutjuurega. Just see üksainus teoreem on põhjus, miks pildipakkimine, peakomponentanalüüs ja latentne semantiline indekseerimine taanduvad kõik samale juhisele: arvuta SVD ja seejärel lõika see maha.

Iga maatriks on kihtide virn 🖖

SVD kirjutab iga maatriksi ümber lihtsate astak-1 kihtide kaalutud summana – iga kiht on moodustatud ühest vasak- ja ühest parempoolsest mustrist – järjestatuna kõige tähtsamast kõige vähemtähtsani singulaarväärtuse järgi. Iga singulaarväärtuse ruut näitab, kui suure osa maatriksi koguenergiast see kiht kannab. Kui hoiad alles vaid mõne esimese, taastad suurema osa andmetest tühise osa arvudega – just seetõttu tõuseb säilitatud energia riba alguses nii järsult.

Avastatud viis korda enne rakendust 🖖

SVD pole arvutiajastu leiutis. Selle tuletasid teineteisest sõltumatult Beltrami (1873), Jordan (1874), Sylvester (1889), Schmidt (1907) ja Weyl (1912) – puhas maatriksiteooria ilma nähtava rakenduseta. Alles 1965. aastal avaldasid Golub ja Kahan numeriliselt stabiilse arvutusmeetodi, ja see avas kõik, mida siin näed: pildipakkimise, müra eemaldamise, otsingumootorid ja soovitussüsteemid.

Ülesanne täielikult lahendatud

Kolm singulaarväärtust ja 34,5% viga, säilitades 88,1% energiast 6 sammu
Leia käsitsi sellel lehel oleva maatriksi kolm singulaarväärtust — karakteristlik polünoom lahutub teguriteks — ja selgita seejärel, miks 88,1% energia säilitamine jätab siiski 34,5% vea.
1. Singulaarväärtused on maatriksi AᵀA omaväärtuste ruutjuured, seega moodusta kõigepealt see korrutis. See on sümmeetriline, mis tagab omaväärtuste reaalsuse ja mittenegatiivsuse.
  
  $A = 3 - 1 0 130112, A^{⊤} A = 10020104246$
2. Maatriksi AᵀA − λI determinant lahutub teguriteks, mis on õnnelik osa: esimene veerg annab sulud, mis tulevad puhtalt ette ja jätavad järele ruutpolünoomi.
  
  $det (A^{⊤} A - λ I) = (10 - λ) [(10 - λ) (6 - λ) - 20] = 0$
3. Üks omaväärtus on täpselt 10; ülejäänud kaks on ruutpolünoomi juured. Nende juurvorm on täpne ja kümnendmurrud järgnevad sellele.
  
  $λ = 10; λ^{2} - 16 λ + 40 = 0 \Rightarrow λ = 8 \pm 26 = 12.8990, 3.1010$
4. Võta ruutjuured. Kontroll on tasuta — kolme ruutu võetud väärtuse summa peab võrduma maatriksi AᵀA jäljega ning 26 on diagonaalielementide summa.
  
  $σ = λ : 3.591515, 3.162278, 1.760971; \sum σ^{2} = 26 = tr (A^{⊤} A)$
5. Kahe suuna säilitamine säilitab nende osa sellest 26-st. Frobeniuse viga on kõrvale jäetud osa ruutjuur ja see ruutjuur ongi kogu vastus.
  
  $kept = \frac{12.8990 + 10}{26} = 88.1%, lost = \frac{3.1010}{26} = 11.9%, \frac{∥ A - A _{2} ∥ _{F}}{∥ A ∥ _{F}} = 0.119 = 34.5%$
6. Samast kolmest arvust tulenevad tasuta veel kaks samasust: nende korrutis on determinandi moodul ja nende suhe on tingitusarv. Väärtusega 2,04 on see maatriks täiesti hea käitumisega — 34,5% ei tähenda peaaegu-singulaarsust, vaid tõelist kolmandat suunda.
  
  $σ_{1} σ_{2} σ_{3} = 20 = ∣ det A ∣, κ = \frac{σ _{1}}{σ _{3}} = 2.04$
Vastus

Sest viga on ruutjuur: √0,119 = 0,345. Energiat mõõdetakse ruutu võetud singulaarväärtustes ja viga ruutu võtmata väärtustes, mistõttu kaheksandiku energia äraviskamine läheb maksma kolmandiku normist ning need kaks arvu paneelil esitavad sama fakti kahel eri skaalal. See on lõks igas väites „hoidsime alles 95% dispersioonist“: 95% energiat tähendab 22% rekonstruktsiooniviga ja 99% on ikka veel 10%. Eckart ja Young tõestasid 1936. aastal, et ükski astakuga 2 maatriks ei saavuta siin paremat tulemust kui 34,5%, seega on see maatriksi seatud piir, mitte kärpimise nõrkus.

$kept 88.1% \Rightarrow error = 1 - 0.881 = 34.5%$

Õpitee

Ruumi teisendavad maatriksid

Viib edasi Peakomponendid

Allikad (2)

The five independent discoveries block 3 lists: G. W. Stewart, "On the Early History of the Singular Value Decomposition." SIAM Review 35(4), 551–566, 1993 — Beltrami, Jordan, Sylvester, Schmidt and Weyl, and what each of them actually proved.
The 1965 algorithm that made it computable: G. Golub and W. Kahan, "Calculating the Singular Values and Pseudo-Inverse of a Matrix." Journal of the Society for Industrial and Applied Mathematics Series B: Numerical Analysis 2(2), 205–224, 1965.

42Mathi meeskond · Uuendatud 2026-07-23

Kontrollitud avaldatud allikate põhjal. Parandused on teretulnud. Toimetamispõhimõtted · Parandused

Kõik Statistika & rahandus õppetunnid →

Näiteülesanded

astak-2 maatriks - Väikese maatriksi lahutus näitab peamisi singulaarsuundi ja -väärtusi.
segatud 3x3 - Σ väärtusteks tulevad 3,591515, 3,162278, 1,760971. Need kolm venitustegurit erinevad üksteisest kõige enam 2,04 korda. Seega ei domineeri neist ükski. Jäta väikseim välja ja 88,1% energiast säilib endiselt, kuigi taastatud maatriks hälbib 34,5%. Tööriist näitab siin, et 3×3 maatriksi astak 2 ei võta salvestamisel vähem ruumi kui A ise. Kärpimine küll selgitab siin maatriksit, kuid ei tihenda seda.
diagonaalne 3x3 - U ja Vᵀ osutuvad ühikmaatriksiks. Diagonaalmaatriksil pole suundi, mida otsida. Seega Σ lihtsalt kordab diagonaali: 5, 2, 0,5. See on siin ainus eelseadistus, kus kärpimine mälumahtu säästab. Astak 1 salvestab umbes 77,8% A enda elementide arvust, samas kui segamaatriksi astak 2 nõuab neid isegi rohkem. Selle ainsa suuna hoidmine säilitab 85,5% energiast ning jätab rekonstrueeringu 38,1% valeks.