Modelos De Regresión Lineal Múltiple Matricial

Tema 1.2 – Modelo de Regresión Lineal Múltiple de Forma Matricial

Al ajustar un modelo de regresión lineal múltiple, en particular cuando el número de variables excede de 2, el conocimiento de la teoría matricial puede facilitar considerablemente las manipulaciones matemáticas.

Supóngase que se tienen k variables independientes x_1,x_2,…,x_k y n observaciones de y_1,y_2,…,y_n cada una de las cuales se puede expresar por la ecuación:

y_i=β_0-β_1 x_1i+β_2 x_2i+⋯+β_k x_ki+ε_i

En esencia, este modelo representa n ecuaciones que describen cómo se generan los valores de respuesta en el proceso. Con la notación matricial, se pueden escribir las ecuaciones:

Modelo en Forma Matricial  Y=Xβ+ϵ

Y=vactor de respuesta (observaciones en y)

X=matriz diseño (primer columna ordenada al origen;todos los valores de las var.exp.)

β=Vector de parámettros

ε=vector de errores

Donde:

Y =[■(y_1@y_2@■(⋮@y_n ))]

n 1 X= [■(1&■(x_11&x_21 )&■(⋯&x_k1 )@1&■(x_12&x_22 )&■(⋯&x_k2 )@■(⋮@1)&■(■(⋮&⋮)@■(x_1n&x_2n ))&■(■(⋮&⋮)@■(⋯&x_kn )))]

n k+1 β =[■(β_1@β_2@■(⋮@β_k ))]

k+1 1 ε =[■(ε_1@ε_2@■(⋮@ε_n ))]

n 1

Mediante el método de estimación de mínimos cuadrados se estimará el vector de parámetros β, mediante la solución del sistema de ecuaciones normales:

(X^' X) β ̂=X^' Y

Nótese la naturaleza de la matriz de X. Aparte del elemento inicial, el i-ésimo renglón representa los valores de c que dan lugar a la respuesta yi, al escribir:

A=X^' X=[■(n&■(∑_(i=1)^n▒x_1i &∑_(i=1)^n▒x_2i )&■(⋯&∑_(i=1)^n▒x_ki )@∑_(i=1)^n▒x_1i &■(∑_(i=1)^n▒x_1i^2 &∑_(i=1)^n▒〖x_1i x_2i 〗)&■(⋯&∑_(i=1)^n▒〖x_1i x_ki 〗)@■(⋮@∑_(i=1)^n▒x_ki )&■(■(⋮&⋮)@■(∑_(i=1)^n▒〖x_ki x_1i 〗&∑_(i=1)^n▒〖x_ki x_2i 〗))&■(■(⋮&⋮)@■(⋯&∑_(i=1)^n▒x_ki^2 )))] g=X^' Y=[■(g_0=∑_(i=1)^n▒y_i @g_1=∑_(i=1)^n▒〖x_1i y_i 〗@■(⋮@g_k=∑_(i=1)^n▒〖x_ki y_i 〗))]

De esta forma las ecuaciones normales se pueden poner:

Aβ ̂=g

Si la matriz X´X (A) no es singular, la solución del sistema de ecuaciones normales para los coeficientes de regresión es:

β ̂=(X^' X)^(-1) X^' Y ; β ̂=A^(-1) g

...