Lección
La teoría — Explorador de Geometría de Mínimos Cuadrados
“Mínimos cuadrados” hace referencia a lo que se minimiza: la suma de los residuos al cuadrado. Geométricamente, los valores ajustados representan el punto más cercano a tus datos dentro del conjunto de curvas que el modelo puede generar — el más cercano en el sentido habitual de la distancia en línea recta, motivo por el cual el vector residual resultante termina siendo perpendicular a todo lo que el modelo podría haber alcanzado.
Qué significa cada símbolo
residual- una distancia entre un punto de datos y la curva ajustada, medida en vertical. El panel muestra cada una antes de elevarla al cuadrado.
SSE- la suma de los errores al cuadrado — consiste en sumar los cuadrados de todos los residuos. Vale
1.3714para el ajuste lineal en este caso. RMSE- la raíz del error cuadrático medio,
√(SSE/n) = 0.4781. A diferencia de la SSE, se expresa en las mismas unidades que y, por lo que es la medida que conviene citar. model- la familia de curvas permitidas. Pasar de recta a cuadrática amplía esa familia de dos parámetros libres a tres.
De dónde viene la fórmula
- Cada curva candidata genera una lista de valores ajustados. Considera esa lista como un único punto en un espacio n-dimensional, y tus datos como otro punto en dicho espacio.
- La SSE es entonces, literalmente, la distancia al cuadrado entre esos dos puntos. Minimizar la SSE significa encontrar el punto alcanzable más cercano a los datos — una proyección, no una búsqueda.
- Y la propiedad fundamental de una proyección es que el error es perpendicular a todo lo alcanzable. Por eso los residuos de un ajuste óptimo siempre suman cero y no muestran correlación remanente con x: cualquier patrón de este tipo sería una dirección en la que el modelo aún podría haberse desplazado.
Cómo leer lo que ves
El número de puntos, luego el modelo ajustado desarrollado, y después la SSE mostrada término a término — −0.7143² + 0.3714² + 0.4571² + ⋯ = 1.3714 — para que puedas ver qué punto está perjudicando el ajuste antes de que los cuadrados oculten los signos. La RMSE aparece al final como resumen interpretable.
- Supone
- Solo distancias verticales, por lo que x se considera exacta y cada punto tiene el mismo peso. El modelo también debe ser lineal en sus parámetros — propiedad que una cuadrática sigue cumpliendo, a pesar de la curva, porque
x²interviene multiplicado por una constante. - Falla cuando
- Una SSE menor no significa un mejor modelo, y puedes comprobarlo aquí con un solo clic. Cambia de recta a cuadrática y la SSE se reducirá de
1.3714a0.4071— siempre iba a disminuir, porque una cuadrática contiene a cualquier recta como el caso particular donde el coeficiente dex²es cero. Un modelo con más libertad no puede ajustar peor, de modo que la SSE por sí sola nunca podrá decirte si el término extra es real o si solo está ajustando ruido.
Práctica
Compruébalo tú mismo
Predice la respuesta primero y luego usa los controles de arriba para comprobarlo. Revela la solución solo cuando te hayas comprometido con una hipótesis: eso es lo que lo convierte en práctica.
-
Pulsa frenado con recta: seis puntos, un ajuste recto, SCE
84. Ahora pulsa frenado con curva — los mismos seis puntos, ajustados con una cuadrática. Predice la nueva SCE.Mostrar la respuesta
0. No casi cero: cero, con RMSE0y una curva ajustada deŷ = 8 − 0.25x + 0.015x². Esos seis puntos salieron exactamente de esa parábola, y en cuanto la familia de curvas permitidas contiene la verdad no queda nada que elevar al cuadrado. Una SCE que baja no demuestra nada por sí sola — una familia más amplia nunca puede ajustar peor. Una caída hasta el suelo es de otra naturaleza, porque no queda residuo alguno que un modelo posterior pudiera eliminar. -
Pulsa retención del curso, que se ajusta con una recta de SCE
1.3714y una proporción de SCE del punto mayor del37.2%. Cambia el selector de modelo a Cuadrático. La SCE bajará — predice qué hace esa proporción.Mostrar la respuesta
Sube, hasta el56.3%, mientras la SCE cae a0.4071. Una proporción no es una cantidad: la libertad añadida acercó la curva a los puntos que podía alcanzar, así que el único que sigue sin alcanzar ocupa ahora una fracción mayor de un total menor. Un aviso ya que estás aquí — pulsar cualquier preajuste devuelve el selector a Recta, así que estos números solo significan esto mientras siga mostrándose Cuadrático. -
Vuelve a frenado con recta. El resultado muestra cinco de los seis residuos antes de su
⋯:5,−1,−4,−4,−1. ¿Cuál es el sexto, y qué te dicen los seis juntos que la SCE84no dice?Mostrar la respuesta
+5. Los residuos de un ajuste por mínimos cuadrados siempre suman cero y los cinco mostrados suman−5, así que el que falta queda forzado. El gráfico de residuos dibuja justo esa forma: dos barras altas hacia arriba en los extremos, cuatro hundiéndose en el medio, una U limpia. Sumar cero y no dejar inclinación frente a x es todo lo que garantizan los mínimos cuadrados, y una U simétrica cumple las dos cosas — sus residuos sí suman cero, y no se inclina hacia ningún lado — de modo que una recta no puede absorberla ni advertirla. La SCE dice que el ajuste es holgado; solo el patrón dice que es holgado en una dirección a la vez.
Problema resuelto al detalle
-
Seis puntos con una suma de errores al cuadrado de 1,3714 5 pasos
Seis puntos, una recta ajustada y una suma de errores al cuadrado de 1,3714. Calcule qué proporción de ese total procede de un solo punto y demuestre una propiedad de los residuos que se cumple para cualquier ajuste por mínimos cuadrados.
-
Los coeficientes se obtienen a partir de las dos mismas sumas que en cualquier regresión simple: cómo varían x e y conjuntamente, dividido por cómo varía x por sí sola.
-
Eso da la recta que indica el panel. Estos datos no tienen nada de especial: se trata de una secuencia casi recta de seis puntos con una ligera dispersión.
-
Los residuos son lo que el ajuste no ha podido explicar. Al calcular los seis, uno destaca de forma clara: el punto en x = 0 se desvía en −0,7143, aproximadamente el doble del error habitual.
-
Antes de utilizarlos, observe que su suma es cero; no aproximadamente, sino exactamente. Esto viene impuesto por el término independiente: la segunda ecuación normal es la afirmación de que los residuos tienen media cero, por lo que se cumple para cualquier recta de mínimos cuadrados independientemente de los datos.
-
Elevar al cuadrado destruye ese equilibrio, y esa es la cuestión. El −0,7143 se convierte en 0,5102, lo que supone el 37,2% del SSE total de 1,3714: un solo punto de seis soporta más de un tercio de la penalización.
Respuesta
La herramienta muestra SSE = 1,3714, RMSE = 0,4781 y una proporción del punto mayor del 37,2%. Ambos hechos son importantes y tiran en direcciones opuestas. Que los residuos sumen cero indica que la recta está equilibrada; el 37,2% indica que el ajuste no lo está, porque elevar al cuadrado pondera una desviación del doble con un peso cuatro veces mayor. Por esta razón exacta los mínimos cuadrados son tan sensibles a los valores atípicos, y por la que la propiedad de que los residuos sumen cero no ofrece protección alguna: un único punto anómalo no puede alterar el residuo medio y, sin embargo, puede dominar aquello que la recta intenta minimizar.
-
Ruta de aprendizaje
Ajustar una recta a datos
Referencias (1)
- Least squares as an orthogonal projection, which is what makes the residuals perpendicular to the model: G. Strang, Introduction to Linear Algebra, 5th ed., chapter 4 (“Orthogonality”). Wellesley-Cambridge Press, 2016. ISBN 978-0-9802327-7-6.