Regresión con Mínimos Cuadrados

Regresión con Mínimos Cuadrados.

Cuando se asocia un error sustancial a los datos, la interpolación polinomial es inapropiada y puede llevar a resultados no satisfactorios cuando se usa para predecir valores intermedios. Los datos experimentales a menudo son de ese tipo. Una estrategia mas apropiada en estos casos es la de obtener una función aproximada que ajuste “adecuadamente” el comportamiento o la tendencia general de los datos, sin coincidir necesariamente con cada punto en particular. Una línea recta puede usarse en la caracterización de la tendencia de los datos sin pasar cobre ningún punto en particular. Una manera de determinar la línea, es inspeccionar de manera visual los datos graficados y luego trazar la “mejor” línea a través de los puntos. Aunque este enfoque recurre al sentido común y es valido para cálculos a “simple vista” es deficiente ya que es arbitrario. Es decir, a menos que los puntos definan una línea recta perfecta (en cuyo caso la interpolación seria apropiada), cada analista trazara rectas diferentes.

La manera de quitar esta subjetividad es considerar un criterio que cuantifique la suficiencia del ajuste. Una forma de hacerlo es obtener una curva que minimice la diferencia entre los datos y la curva y el método para llevar a cabo este objetivo es al que se le llama regresión con mínimos cuadrados.

Regresión Lineal

El ejemplo mas simple de una aproximación por mínimos cuadrados es el ajuste de una línea recta a un conjunto de parejas de datos observadas: (x1,y1), (x2,y2), ...,(xn,yn). La expresión matemática de una línea recta es:

(1)

en donde a0 y a1 son coeficientes que representan la intersección con el eje de las abscisas y la pendiente, respectivamente y E es el error o residuo entre el modelo y las observaciones, que se puede representar reordenando la ecuación (1) como:

(2)

Por lo tanto, el error o residuo es la diferencia entre el valor real de y y el valor aproximado, a0+a1x, predicho por la ecuación lineal.

Criterio para un “mejor” ajuste

Una estrategia que obtiene la “mejor” línea a través de los puntos debe minimizar la suma de los errores residuales, como en:

Otro criterio seria minimizar la suma de los valores absolutos de las diferencias, esto es:

Una tercera estrategia en el ajuste de una línea optima es el criterio de mínimas. En este método, la línea se escoge de tal manera que minimice la distancia máxima a la que se encuentra un punto de la línea recta. Esta estrategia esta mal condicionada para regresión ya que influye de manera indebida sobre un punto externo, aislado, cuyo error es muy grande. Se debe notar que el criterio mínimas algunas veces esta bien condicionado

...