Problème entièrement résolu
-
Trois valeurs singulières et une erreur de 34,5 % en conservant 88,1 % de l'énergie 6 étapes
Trouvez à la main les trois valeurs singulières de la matrice de cette page — le polynôme caractéristique se factorise — puis expliquez pourquoi conserver 88,1 % de l'énergie laisse toujours une erreur de 34,5 %.
-
Les valeurs singulières sont les racines carrées des valeurs propres de AᵀA, commencez donc par former ce produit. Il est symétrique, ce qui garantit que les valeurs propres sont réelles et non négatives.
-
Le déterminant de AᵀA − λI se factorise, ce qui est la partie heureuse : la première colonne apporte un facteur entre parenthèses qui se met proprement en facteur et laisse un polynôme du second degré.
-
L'une des valeurs propres vaut exactement 10 ; les deux autres sont les racines du polynôme du second degré. Leur forme avec radicaux est exacte et les décimales suivent.
-
Prenez les racines carrées. La vérification est immédiate — la somme des trois valeurs au carré doit être égale à la trace de AᵀA, et 26 est la somme de la diagonale.
-
Conserver deux directions conserve leur part de ces 26. L'erreur de Frobenius est la racine carrée de la part rejetée, et cette racine carrée constitue la réponse complète.
-
Deux autres identités s'obtiennent immédiatement à partir des trois mêmes nombres : leur produit est le déterminant en valeur absolue, et leur rapport est le conditionnement. À 2,04, cette matrice est parfaitement bien conditionnée — les 34,5 % ne découlent pas d'une quasi-singularité, il s'agit d'une véritable troisième direction.
Réponse
Parce que l'erreur est une racine carrée : √0,119 = 0,345. L'énergie s'exprime en valeurs singulières au carré et l'erreur en valeurs non élevées au carré, de sorte que rejeter un huitième de l'énergie coûte un tiers de la norme, et les deux nombres sur le panneau représentent le même fait rapporté sur deux échelles différentes. C'est le piège de toute affirmation du type "nous avons conservé 95 % de la variance" : 95 % de l'énergie correspond à 22 % d'erreur de reconstruction, et 99 % correspond encore à 10 %. Eckart et Young ont prouvé en 1936 qu'aucune matrice de rang 2 ne fait mieux que 34,5 % ici ; il s'agit donc d'un plancher fixé par la matrice, et non d'une faiblesse de la troncature.
-
Parcours
Des matrices qui transforment l'espace
Références (2)
- The five independent discoveries block 3 lists: G. W. Stewart, "On the Early History of the Singular Value Decomposition." SIAM Review 35(4), 551–566, 1993 — Beltrami, Jordan, Sylvester, Schmidt and Weyl, and what each of them actually proved.
- The 1965 algorithm that made it computable: G. Golub and W. Kahan, "Calculating the Singular Values and Pseudo-Inverse of a Matrix." Journal of the Society for Industrial and Applied Mathematics Series B: Numerical Analysis 2(2), 205–224, 1965.