Regresión Bridge

Regresión Bridge: Es un método de penalización. Este método es útil en cualquier situación donde existan problemas de multicolinealidad o sea necesario seleccionar variables.

Los estimadores son obtenidos minimizando la suma de cuadrados ordinarios sujeto a determinada restricción.

Regresión Ridge: Esta regresión es un caso especial de Bridge y ocurre cuando el parámetro regularizador γ = 2. Este tipo de regresión se destaca por eliminar variables que se encuentran correlacionadas, procedimiento que se realiza a través de una penalización, la cual afecta a este tipo de variables, contrayéndolas a cero. Este estimador fue propuesto para dar solución a problemas de multicolinealidad. Así, el estimador de Ridge tiene la misma forma del estimador de Bridge a diferencia del parámetro de regularización.

Regresión LASSO: Este tipo de regresión al igual que la regresión Ridge, es un caso especial de la regresión Bridge, en el que el parámetro regularizador γ = 1. Este método tiene por objetivo seleccionar variables y, al igual que el caso anterior, realiza una penalización a cada una de las variables contrayendo algunas a cero, por medio de un parámetro regularizador

Regresión Elastic-Net (E-N): Corresponde a una generalización de regresión LASSO y Ridge, donde ocupa una combinación de las penalizaciones L1 tipo LASSO y L2 de tipo Ridge. De esta forma, el estimador E-N es realizado minimizando la suma de cuadrados ordinarios, pero esta vez sujeto a ambas regularizaciones en conjunto.

Un modelo multivariado permite medir, explicar y predecir para una observación determinada en base a un conjunto de variables independientes (covariables), el valor de una variable continua o la probabilidad de ocurrencia de una variable dicotómica. El concepto multivariado no sólo depende del número de variables sino también de las múltiples combinaciones existentes entre las variables consideradas.

...