最小二乗法ジオメトリ・エクスプローラー

最小二乗回帰は高次元のデータ点を低次元の線形部分空間に幾何学的に投影します。残差の直交距離の二乗を最小化することで、数学的に最適な近似線を決定し、確率的ノイズを抑制します。

このツールは各点と直線との垂直方向の差を二乗して合計し、その合計が最小になる直線を探します。二乗するため、差が2倍になると影響は4倍になり、当てはめは一つの大きな外れを避けようと強く働きます。点を一つ遠くへドラッグすると、直線全体がそちらへ引き寄せられます。この引力こそ、二乗することの代償です。

最小二乗法は垂直方向の差だけを縮めるため、yを目的変数、xを正確な値だと暗黙に仮定しています。軸を入れ替えて当てはめ直すと、予想される鏡像ではなく別の直線が得られます。どちらの直線もデータの平均点 (x̄, ȳ) を通りますが、点が完全に一直線上にあるときだけ一致します。二つの傾きを掛け合わせると、相関の二乗である r² になります。