Matematicas

2.7 Análisis de regresión múltiple y correlación
En la mayoría de problemas de investigación donde se aplica el análisis de regresión, se necesita más de una variable independiente en el modelo de regresión. La complejidad de la mayoría de mecanismos científicos es tal que, con la finalidad de predecir una respuesta importante, se requiere un modelo de regresión múltiple. Cuando este modelo eslineal en los coeficientes se denomina modelo de regresión lineal múltiple. La respuesta estimada se obtiene a partir de la ecuación de regresión muestral
y=b0+b1x1+…+bkxk
Donde cada coeficiente de regresión βi es estimado por bi de los datos muestrales usando el método de los mínimos cuadrados. Como en el caso de una sola variable independiente, es frecuente que el modelo de regresión lineal seauna representación adecuada de una estructura más complicada dentro de ciertos rangos de las variables independientes.
Modelo de regresión lineal o bien,
yi=β0+β1x1i+β2x2i+…+βkxki+ϵi
yi=yi+ei=b0+b1x1i+b2x2i+…+bkxki+ei
donde εi y ei son los errores aleatorio y residual, respectivamente, asociados con la respuesta yi y con el valor ajustado yi.
Como en el caso de la regresión lineal simple,se supone que los εi son independientes, y están distribuidos en forma idéntica con media cero y varianza común.
Al usar el concepto de mínimos cuadrados para obtener los estimadores b0, b1,….,bk, minimizamos la expresión
SSE=i=1nei2=i=1nyi-b0-b1x1i-b2x2i-…-bkxki2
Que se deriva con respecto de b0, b1,…,bk, para igualar el resultado a cero y generar el conjunto de k+1 ecuaciones normales deestimación para la regresión lineal múltiple.
Modelo de regresión lineal con el empleo de matrices
Al ajustar un modelo de regresión lineal múltiple, en particular cuando el número de variables es mayor que dos, el dominio de la teoría de matrices facilita en forma considerable las manipulaciones matemáticas. Suponga que el experimentador tiene k variables independientes x1, x2,…,xk y nobservaciones y1, y2,…,yn, cada una de las cuales puede expresarse con la ecuación
yi=β0+β1x1i+β2x2i+…+βkxki+ϵi
Este modelo representa en esencia a n ecuaciones que describen cómo se generan los valores de la respuesta durante el proceso científico. El resultado se reduce a la solución b en
(X’X) b = X’y
Observe la naturaleza de la matriz X. Además del elemento inicial, el i-ésimo renglón representalos valores de x que dan lugar a la respuesta yi. Queda:
A=X'X=ni=1nx1ii=1nx2i….i=1nx1ii=1nx1i2i=1nx1ix2ii=1nxkii=1nxkix1ii=1nxkix2i i=1nxkii=1nx1ixkii=1nxki2
g=X'y= g0=i=1nyig1=i=1nx1iy1ig1=i=1nxkiyi
Las ecuaciones normales pueden escribirse en forma matricial como
Ab = g
Si la matriz A es no singular, la solución para los coeficientes de regresión se escribe como:
b=A-1g=(X’X)-1X’y
Asíobtenemos la ecuación de predicción o regresión al resolver un conjunto de k + 1 ecuaciones con un número igual de incógnitas. Esto implica que se invierta la matriz X’X de orden k + 1.
Cuando se utiliza más de una variable independiente en un análisis de correlación, se aplica el término análisis de correlación múltiple. En general cuando se ajusta un modelo estadístico a una nube de puntos,una medida de la bondad del ajuste es el coeficiente de determinación, definido por

SSR es la suma de cuadrados de la regresión
SSR= i=1nbigi-1ni=1nyi2

SST es la suma de cuadrados total

SST=i=1nyi2-1ni=1nyi2

SSE es la suma de cuadrados de los residuales

SSE=i=1nyi2-i=1nbigi

Sin embargo, el coeficiente múltiple de determinación R2 tiene una gran desventaja: amayor número de variables incluidas, R2 se incrementa. (R2 podría permanecer igual, pero suele incrementarse). La R2 más grande se obtiene por el simple hecho de incluir todas las variables disponibles, pero la mejor ecuación de regresión múltiple no necesariamente utiliza todas las variables disponibles. A causa de esta desventaja, la comparación de diferentes ecuaciones de regresión múltiple se...