Aufgabe vollständig gelöst
-
Drei Singulärwerte und ein Fehler von 34,5% durch Beibehalten von 88,1% der Energie 6 Schritte
Bestimmen Sie die drei Singularwerte der Matrix auf dieser Seite von Hand — das charakteristische Polynom lässt sich faktorisieren — und erklären Sie dann, warum das Beibehalten von 88,1% der Energie immer noch einen Fehler von 34,5% hinterlässt.
-
Singularwerte sind die Quadratwurzeln der Eigenwerte von AᵀA, bilden Sie also zuerst dieses Produkt. Es ist symmetrisch, was garantiert, dass die Eigenwerte reell und nichtnegativ sind.
-
Die Determinante von AᵀA − λI lässt sich faktorisieren, was der glückliche Umstand ist: Die erste Spalte liefert einen Klammerausdruck, der sich sauber ausklammern lässt und eine quadratische Gleichung hinterlässt.
-
Ein Eigenwert ist exakt 10; die anderen beiden sind die Wurzeln der quadratischen Gleichung. Ihre Wurzeldarstellung ist exakt, und die Dezimalzahlen folgen daraus.
-
Ziehen Sie die Quadratwurzeln. Die Probe ist gratis — die drei quadrierten Werte müssen sich zur Spur von AᵀA aufsummieren, und 26 ist die Summe der Diagonalen.
-
Behält man zwei Richtungen bei, behält man deren Anteil an diesen 26. Der Frobenius-Fehler ist die Quadratwurzel des verworfenen Anteils, und diese Quadratwurzel ist bereits die gesamte Antwort.
-
Zwei weitere Identitäten ergeben sich gratis aus denselben drei Zahlen: Ihr Produkt ist der Betrag der Determinante, und ihr Verhältnis ist die Konditionszahl. Mit 2,04 ist diese Matrix äußerst gutartig — die 34,5% stellen keine Beinahe-Singularität dar, sondern eine echte dritte Richtung.
Antwort
Weil der Fehler eine Quadratwurzel ist: √0,119 = 0,345. Die Energie wird in quadrierten Singularwerten gemessen und der Fehler in unquadrierten, sodass das Verwerfen eines Achtels der Energie ein Drittel der Norm kostet, und die beiden Zahlen im Bedienfeld derselbe Sachverhalt sind, der auf zwei verschiedenen Skalen berichtet wird. Das ist die Falle bei jeder „wir haben 95% der Varianz behalten“-Behauptung: 95% der Energie entsprechen einem Rekonstruktionsfehler von 22%, und 99% bedeuten immer noch 10%. Eckart und Young haben 1936 bewiesen, dass keine Rang-2-Matrix hier besser abschneidet als 34,5%; dies ist also eine durch die Matrix vorgegebene Untergrenze und keine Schwäche der Trunkierung.
-
Lernpfad
Matrizen, die Dinge bewegen
Quellen (2)
- The five independent discoveries block 3 lists: G. W. Stewart, "On the Early History of the Singular Value Decomposition." SIAM Review 35(4), 551–566, 1993 — Beltrami, Jordan, Sylvester, Schmidt and Weyl, and what each of them actually proved.
- The 1965 algorithm that made it computable: G. Golub and W. Kahan, "Calculating the Singular Values and Pseudo-Inverse of a Matrix." Journal of the Society for Industrial and Applied Mathematics Series B: Numerical Analysis 2(2), 205–224, 1965.