Teoria Modulo II Regresi n

Universidad Nacional del Comahue
Facultad de Ingeniería

Curso de Postgrado

Estadística Aplicada
Dr. Sergio Bramardi

TEMARIO MODULO II
Regresión Lineal Simple
Método de Mínimos Cuadrados
Notación Matricial
Supuestos y Bondad de Ajuste
Predicciones
Modelos Linealizables
Correlación Parcial
Métodos de Selección de Variables
Regresión no-lineal, var. indicadoras, regresión por partes

1Bibliografía de Referencia
DRAPER, N.; SMITH, H. (1966). Applied regression analysis. John
Wiley
MONTGOMERY D.; RUNGER, G. (1996). Probabilidad
estadística aplicadas a la ingeniería. México: Mc Graw Hill.

y

MONTGOMERY, D.; PECK, E.; VINING, G. (2002). Introducción al
Análisis de Regresión Simple. Ed. C.E.C.S.A.
NETER; J.; VASSERMAN, W.; KUNER, M. (1990). Applied linear
statistical models. Boston:Richard Irwin Inc.
PEÑA, D. (1989). Estadística: Modelos y Métodos -Tomo II:
Modelos Lineales. Madrid: Alianza Universidad Textos.

REGRESIÓN LINEAL SIMPLE

Objetivo: determinar la mejor relación funcional entre una
variable aleatoria (llamada variable dependiente y denotada
generalmente

con

Y),

y

una

variable

no

aleatoria

(independiente, indicada con X) de modo que podamos
hacer predicciones dela primera conociendo valores de la
segunda.

2

Pasos:
1. Diagrama de dispersión
2. Visualización relación entre variables

curva aproximante

3. Elección relación funcional
Línea recta

Y = a0 + a1 X

Parábola

Y = a0 + a1 X + a2 X2

Curva cúbica

Y = a0 + a1 X + a2 X2 + a3 X3

Curva cuártica

Y = a0 + a1 X + a2 X2 + a3 X3 + a4 X4

Curva de grado n

Y = a0 + a1 X + a2 X2 + ..... + an XnHipérbola

Y = 1 / (a0 + a1 X) ó 1/Y = a0 + a1 X

Curva exponencial

Y = a.ebX ó log Y = log a + b X

Curva geométrica

Y = a.Xb

ó

log Y = log a + b . logX

Consideraciones Analíticas
Diagrama de variables transformadas

4. Estimación de parámetros
5. Evaluación de la bondad del ajuste

6. Predicciones

Curvas Aproximantes

3

Método de Mínimos Cuadrados
Y

(xn,yn)
en

(x1,y1)

y^n

e1
e2
(x2,y2)

x1x2

n

∑ei
i =1

2

X

xn

n

n

i =1

i =1

(

= ∑ ( y i − yˆi ) 2 = ∑ y i − f (x i ;θ )

)

2

Caso Regresión Lineal Simple

f (x i ;θ ) = y i = α + β .x i + εi
Modelo Muestral

y i = a + b .x i + e i
donde:

αˆ = a

⌢

β =b

4

n

n

i =1

i =1

∑ e i 2 =∑ ( y i

− yˆi

)

2

n

= ∑ ( y i − a − bx i

)

2

= ϕ (a , b )

i =1

Ecuaciones Normales
dϕ (θˆ)
=0
dθ1

dϕ (θˆ)
=0
dθ2

dϕ (θˆ)
=0
dθk...........

dϕ (a , b ) n
= ∑ 2(y i − a − bx i )(−1) = 0
da
i =1

n

n

i =1

i =1

a .n + b .∑ x i = ∑ y i
n

n

n

i =1

i =1

i =1

a .∑ x i + b .∑ x i 2 = ∑ x i .y i

dϕ (a , b ) n
= ∑ 2(y i − a − bx i )(− x i ) = 0
db
i =1

Desplazando eje de ordenadas al valor x

Y = a * + b * .(X − x )
n

n

n

i =1

i =1

∑yi

a .n + b .∑ (x i − x ) = ∑ y i
n

n

a* =

i =1

b* =

=y

n

n

n

a .∑ ( x i− x ) + b .∑ ( x i − x )2 = ∑ ( x i − x ).y i
i =1

i =1

∑ y i .(x i
i =1
n

=

∑ (x i

i =1

−x)

− x )2

SPXY
SC X

i =1

Y = a * + b *.( X − x ) = a * − b *.x + b * .X
a

b
n

a = y − b. x

b=

SPXY
SC X

∑ x i .y i
=

i =1

n

n

i =1

i =1

∑xi ⋅ ∑yi
−

n
2

n

∑ xi 2
i =1

 n

 ∑xi 
i =1

−

n

5

Esquema de cálculos para estimación de parámetros

X

Y

x1
x2
.
.
.
.
.
xn

y1
y2
..
.
.
.
yn

n

∑x
i =1

X2

n

∑y

i

i =1

n

∑x

i

i =1

Y2

2
i

n

∑y
i =1

XY

n

∑x

2
i

i =1

i

.y i

Scatterplot (Altura Niños.sta)

ALT = 0,8087 + 0,0591*EDAD
1,60
1,55
1,50
1,45

ALT

1,40
1,35
1,30
1,25
1,20
1,15
1,10

5

6

7

8

9

10

11

12

13

EDAD

6

DEFINICIONES DE ALGEBRA MATRICIAL:
I: Matriz identidad tiene unos en la diagonal y restantes elementos igual a
cero. Equivaleal 1 del algebra escalar.
A-1: Matriz inversa es aquella que multiplicada por A da la matriz identidad.
A*A-1 = I
A’: Matriz transpuesta, resulta de intercambiar las filas por las columnas.
|A|: Determinante es una función específica de los elementos de una matriz
cuadrada. Para caso de 2x2 es igual a (a11*a22)-(a12*a21)
tr(A): Traza, es la suma de los elementos de la diagonal

OPERACIONES CON...