Regresion lineal

Regresión y Análisis de Varianza
V. Núñez Antón y F. Tusell1 18 de septiembre de 2007

1 c F. Tusell y V. Núñez. La última versión de este documento, quizá posterior a ésta, puede habitualmente encontrarse en http://www.et.bs.ehu.es/ etptupaf. Estas notas, o la versión más moderna en la ubicación citada, pueden reproducirse libremente por alumnos de Estadistica: Modelos Lineales (P33) para suuso privado. Toda otra reproducción requiere el consentimiento previo y por escrito de los autores.

II

Índice general

Introducción

XI

I

Regresión Lineal
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1
3 3 4 6 7 7 15 15 18 20 21 23 31 31 3339 39 45 48 48 51 53 53 53 55 56

1. El modelo de regresión lineal. 1.1. Planteamiento del problema. . . . . 1.2. Notación . . . . . . . . . . . . . . . 1.3. Supuestos. . . . . . . . . . . . . . . 1.4. MCO como aproximación vectorial 1.5. Proyecciones. . . . . . . . . . . . .

2. Estimación mínimo cuadrática. 2.1. Estimación de los parámetros. . . . . . . . . 2.2. Propiedades del estimadormínimo cuadrático. 2.3. Estimación de la varianza de la perturbación. 2.4. El coeficiente R2 . . . . . . . . . . . . . . . 2.5. Algunos lemas sobre proyecciones. . . . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

3. Identificación. Estimación condicionada. 3.1. Modelos conmatriz de diseño de rango deficiente. . . . . . . . . . . . 3.2. Estimación condicionada. . . . . . . . . . . . . . . . . . . . . . . . . 4. Regresión con perturbaciones normales. 4.1. Introducción. . . . . . . . . . . . . . . . . . . . . . . . . 4.2. Contraste de hipótesis lineales. . . . . . . . . . . . . . . . 4.2.1. Contraste sobre coeficientes βi aislados. . . . . . . 4.2.2. Contraste designificación conjunta de la regresión. 4.3. Intervalos de confianza para la predicción . . . . . . . . . 5. Especificación inadecuada del modelo 5.1. Introducción. . . . . . . . . . . . . 5.2. Inclusión de regresores irrelevantes. 5.3. Omisión de regresores relevantes. . 5.4. Consecuencias de orden práctico . .
III

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . .. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

IV

ÍNDICE GENERAL
59 59 59 60 61 61 63 63 64 68 71 71 72 73 74 77 79 79 80 80 80 83 84 86 86 88 89 93

6. Inferencia simultánea. 6.1. Problemas que plantea el contrastar múltiples hipótesis simultáneas6.1.1. Evidencia contra una hipótesis . . . . . . . . . . . . . . . . 6.1.2. ¿Cómo de “raro” ha de ser algo para ser realmente “raro”? . 6.1.3. Análisis exploratorio e inferencia . . . . . . . . . . . . . . 6.1.4. Inferencia simultánea y modelo de regresión lineal ordinario 6.2. Desigualdad de Bonferroni. . . . . . . . . . . . . . . . . . . . . . . 6.3. Intervalos de confianza basados en la máxima t. .. . . . . . . . . . 6.4. Método S de Scheffé. . . . . . . . . . . . . . . . . . . . . . . . . . 6.5. Empleo de métodos de inferencia simultánea. . . . . . . . . . . . . 7. Multicolinealidad. 7.1. Introducción. . . . . . . . . . . . . . . . . . . 7.2. Caracterización de formas lineales estimables. . 7.3. Varianza en la estimación de una forma lineal. . 7.4. Elección óptima de observacionesadicionales∗ . 7.5. Detección de la multicolinealidad aproximada .

. . . . . . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

8. Regresión sesgada. 8.1. Introducción. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8.2. Regresión ridge. . . . . . . . . . . . . . . . ....