Residuos y sumas de cuadrados

Residuos

En un modelo de regresión simple, los residuos son las diferencias entre los verdaderos valores que toma la variable dependiente y los valores estimados. Se calculan por tanto mediante:

\hat{\epsilon_i}=y_i-\hat{y_i}=y_i-\hat{\beta_0}-\hat{\beta_1}\cdot x_i

De este modo en cada modelo estimado tendremos tantos residuos como observaciones incluya la muestra (n).

Residuo

Sabemos que el método de mínimos cuadrados calcula los estimadores  de \beta_0 y \beta_1 de forma que la suma de los cuadrados de los residuos sea mínima.

La expresión “mínimos cuadrados ordinarios” viene de este hecho.

Ejemplo.-

Calcule los residuos para el modelo de regresión lineal simple planteado en el ejemplo anterior.

Sumas de cuadrados

Suma total de cuadrados (STC)

La suma total de cuadrados me permite medir la variabilidad total de la variable dependiente (Y) y se calcula como:

STC=\sum_{i=1}^n \left( y_i - \bar Y \right)^2

Suma explicada de los cuadrados (SEC)

La suma explicada de los cuadrados acumula la parte de la variabilidad de la variable dependiente que consigue explicar el modelo, y se calcula como:

SEC=\sum_{i=1}^n \left( \hat y_i - \bar Y \right)^2

Suma de cuadrados de los residuos (SCE)

La suma de cuadrados de los residuos acumula la variabilidad de la variable dependiente que no conseguimos explicar con el modelo y se calcula mediante:

SEC=\sum_{i=1}^n \left( y_i - \hat y_i\right)^2=\sum_{i=1}^n \left( \hat \epsilon_i\right)^2

Como podemos observar, la variabilidad total de la variable se puede descomponer en la variabilidad que explica el modelo y la variabilidad que no explica el modelo. Se cumple por tanto que:

STC = SEC + SCE

 El coeficiente de determinación se puede calcular en base a estas suma como cociente entre la suma explicada de cuadrados y la suma de cuadrados total:

R^2=\frac{SEC}{SCT}=1-\frac{SCE}{SCT}

Ejemplo.-

Calcule la suma total de cuadrados (STC), la suma explicada de los cuadrados (SEC) y la suma de los cuadrados de los residuos (SCE) para el modelo de regresión lineal simple planteado en el ejemplo 1.

Compruebe que se cumple que STC = SEC + SCE y calcule el coeficiente de determinación a partir de estas sumas.