Mínimos Cuadrados.

Mínimos Cuadrados

El término mínimos cuadrados describe un enfoque frecuentemente usado para resolver sistemas de ecuaciones sobre determinados ó especificados inexactamente en algún sentido apropiado. En lugar de resolver las ecuaciones exactamente, se busca solamente minimizar la suma de los cuadrados de los residuales.

Muchos de los problemas que aparecen en las ciencias y en las aplicaciones se pueden reducir a la solución de un problema de mínimos cuadrados, o bien contienen subproblemas de mínimos cuadrados. Asimismo, en la actualidad los métodos de mínimos cuadrados son de fundamental importancia en la teoría y solución de los problemas inversos así como de los problemas mal planteados en el sentido de Hadamard. Estos problemas usualmente no tienen solución o bien la solución no es única y, en el mejor de los casos, la solución no es continua respecto de los datos. En una gran cantidad de estos problemas es necesario regularizar el problema para encontrar una solución. El enfoque generalmente es por medio de mínimos cuadrados en espacios de Hilbert.

Las soluciones recursivas del método se describen en base al concepto de innovación (nueva información) para los casos de aumentar el número de parámetros o el número de datos. Se obtiene una solución compacta para una situación en la que se consideren restricciones lineales y, finalmente, se trata el caso de que exista una dependencia no lineal de la señal con los parámetros que se desean estimar.

Ajuste de curvas. Mínimos cuadrados lineales Una fuente común que da origen a problemas de mínimos cuadrados es el ajuste de curvas a un conjunto de datos dados. Sea x una variable independiente y sea y(x) una función desconocida de x la cual queremos aproximar. Suponiendo que tenemos m observaciones

(, ), (, y2), . . . , (, ) , donde yi ≈ y(), i = 1, 2, . . . , m[pic 1][pic 2][pic 3][pic 4][pic 5][pic 6]

 La idea es modelar y(x) por medio de una combinación de n funciones base (x), (x), . . . , (x). En el caso lineal suponemos que la funci´on que se ajusta a los datos es una combinación lineal de la forma [pic 10][pic 7][pic 8][pic 9]

Entonces, los datos deben satisfacer de manera aproximada [pic 11]

La última expresión constituye un sistema de m ecuaciones con n incógnitas , ,..., . En el ajuste de curvas el número de funciones  base n es generalmente menor que el número de datos ´ m, es decir, m > n. En forma matricial la condición puede expresarse de la siguiente forma   [pic 15][pic 12][pic 13][pic 14]

A la matriz de este sistema A = (j) con  = () se le denomina matriz de diseño. Las funciones base  (x) con i = 1,. . ., n, pueden ser funciones no lineales de x, pero los coeficientes y parámetros  aparecen en el modelo en forma lineal cuando se trata de un ajuste lineal. Dependiendo del problema particular y el objeto de estudio, las funciones base i (x) pueden escogerse de muchas maneras, e incluso pueden depender de ciertos parámetros. [pic 16][pic 17][pic 18][pic 19][pic 20][pic 21][pic 22]

Algunas elecciones comunes pueden ser, entre otras: polinomios,  (x)=  ; funciones racionales,  (x)  / ( + x + · · · +  ), con + ,. . ., + parámetros dados; exponenciales, (x) = e −x, con parámetros de decaimiento. Dado que m > n, el sistema Ac = y ,  dado por la matriz de diseño es sobre determinado y,  por lo tanto, tiene solución solo si el vector de datos y se encuentra en el espacio imagen de A, denotado por Im(A). En general, y no se encuentra en Im(A) y por lo tanto no es posible encontrar una solución c del sistema de arriba (la matriz de diseño).Entonces el problema es buscar los coeficientes de la primera función, la combinación lineal, que mejor ajusten los datos. El enfoque de mínimos cuadrados consiste en buscar aquel vector de coeficientes c que minimice el residual r = y−Ac. Si denotamos la norma Euclidiana en por || · ||, entonces el problema consiste en resolver [pic 23][pic 24][pic 25][pic 26][pic 27][pic 28][pic 29][pic 30][pic 31][pic 32][pic 33][pic 34][pic 35]

...