Estadistica

Regresión Múltiple.
Muchos problemas de regresión involucran más de una variable independiente. Los modelos de regresión que utilizan más de una variable dependiente son llamados modelos de regresión múltiple.
Por ejemplo, suponga que la vida efectiva de una herramienta de corte depende de la velocidad de corte y del ángulo de la herramienta. Un modelo de regresión que podría describir estarelación es
y=β0+β1x1+β2x2+ϵ
Donde y denota la vida efectiva de la herramienta, x1 denota la velocidad de corte, y x2 denota el angulo de la herramienta. Este seria un modelo de regresión múltiple con dos variables independientes. El término lineal se utiliza debido a que la ecuación anterior es una función lineal de los parámetros desconocidos β0, β1, y β2 como variables independientes x1 y x2son llamadas variables regresoras. Nótese que el modelo describe un plano en el espacio bi-dimensional de las variables independientes x1 y x2 . El parámetro β0 es la intercepción del plano de la regresión. El parámetro β1 indica el cambio esperado en la respuesta y por unidad de cambio en x1, cuando x2 se mantiene constante. Similarmente, β2 mide el cambio esperado en y por unidad de cambio en x2cuando x1 es mantenido constante.
En general, la variable dependiente o respuesta y podría estar relacionada a k variables independientes. El modelo
y=β0+β1x1+β2x2+…+βkxk+ϵ Ecuacion (1)
es llamado modelo de regresión lineal múltiple con k variables independientes. Este modelo describe un hiperplano en el espacio k dimensional de las variables independientes xj. Los parámetros βjrepresentan el cambio esperado en la respuesta y por unidad de cambio en xj cundo todas las demás variables xi (i≠j)se mantienen constantes. Los parámetros βj , j=1,2,…, k, son llamados coeficientes de regresión parcial, porque describen el efecto parcial de una variable independiente cuando las otras variables independientes, en el modelo, se mantienen constantes.
Muchos modelos de regresión linealmúltiple son a menudo usados como funciones de aproximación. Es decir, la verdadera relación funcional entre y y x1, x2, …., xk es desconocida, pero en ciertos rangos de las variables independientes el modelo de regresión lineal es una aproximación adecuada.
Modelos que son más complejos en apariencia que la ecuación anterior, podrían ser analizados mediante las técnicas de regresión linealmúltiple. Por ejemplo, considere el modelo polinomial cubico de una variable aleatoria independiente

y=β0+β1x+β2x2+β3x3+ϵ
Si denotamos x1=x, x2=x2, y x3=x3, entonces la ecuación anterior puede ser escrita como
y=β0+β1x1+β2x2+β3x3+ϵ
Que es un modelo de regresión lineal múltiple con tres variables regresoras. Modelos que incluyan efectos de interacción podrían también analizarse por métodosde regresión lineal múltiple. Por ejemplo suponga
y=β0+β1x1+β2x2+β12x1x2+ϵ
Si denotamos por x3= x1x2 y β1= β12, entonces esta última ecuación puede escribirse como
y=β0+β1x1+β2x2+β3x3+ϵ
Que es un modelo de regresión lineal. En general, cualquier modelo de regresión que es lineal en los parámetros (los valores de β) es un modelo de regresión lineal, independientemente de la forma desuperficie que genere.
Estimación de los Parámetros.
El método de mínimos cuadrados se usa para estimar los coeficientes de regresión de la ecuación (1). Supongamos que n>k observaciones están disponibles y denotamos por xij la i-exima observación o nivel de la variable xj. Los datos aparecerían como se muestra en la tabla (1)
Tabla 1. Datos para Regresión Múltiple Lineal |
Y | x1 | x2 | x3| …. | xk |
y1 | x11 | x12 | x13 | …. | x1k |
y2 | x21 | x22 | x23 | …. | x2k |
y3 | x31 | x32 | x33 | …. | x3k |
. | . | . | . | . | . |
. | . | . | . | . | . |
. | . | . | . | . | . |
Yn | xn1 | xn2 | xn3 | …. | xnk |

Suponemos que el termino error ϵ del modelo tiene un Eϵ=0, Vε=σ2 y que el ei son variables aleatorias no correlacionadas.
Se podría escribir el modelo de la...