CLASE DE REGRESIÓN LINEAL EN R

Regresión lineal
Luis Ramón Barrios Roqueme
19 de octubre de 2015
En muchas aplicaciones del análisis de regresión se involucran más de una variable regresara o independiente.

Modelo lineal
Un modelo de regresión que contiene mas de una variable regresara recibe el nombre de modelo de regresión múltiple. En general, el modelo

y = β 0 + β 1 x1 + β2 x2 + ⋯ + β k xk + ε
k variables regresoras. Losparámetros β j j = 0, 1, 2, … , k son llamados coeficientes
de regresión. El parámetro β j representa el cambio esperado en la respuesta y por cambio unitario en xj , todas las variables independientes
restantes xi (i ≠ j) se mantienen constantes.
es llamado un modelo regresión lineal múltiple con

Ejemplo 1. A continuación se describe el empleo de un modelo de regresión para relacionar lacantidad de tiempo requerido por un vendedor
de ruta (chofer) para abastecer una máquina vendedora de refrescos con el número de latas que incluye la misma, y la distancia del vehículo
de servicio a la ubicación de la máquina. Este modelo se empleó para el diseño de la ruta, el programa y el despacho de vehículos. La tabla
presenta 25 observaciones respecto al tiempo de entrega tomadas del mismo estudiodescrito.
Los datos del fichero Entrega.txt se cargan con los siguientes códigos
#.....Cargar la base
datos=read.table("Entrega.txt",dec=".",header=T)
datos

##
##
##
##
##
##
##
##
##
##
##
##
##
##
##
##
##
##
##
##
##
##
##
##
##
##

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25

TiempoEntrega NumeroLatas Distancia
9.95
2
50
24.45
8
110
31.75
11
120
35.00
10
550
25.02
8295
16.86
4
200
14.38
2
375
9.60
2
52
24.35
9
100
27.50
8
300
17.08
4
412
37.00
11
400
41.95
12
500
11.66
2
360
21.65
4
205
17.89
4
400
69.00
20
600
10.30
1
585
34.93
10
540
46.59
15
250
44.88
15
290
54.12
16
510
56.63
17
590
22.13
6
100
21.15
5
400

#También se pueden llamar como
#datos=read.csv2(file.choose(),sep=";",dec=".",header=T)
#datos
# Fijar las variables de la base de datos
attach(datos)#Nombre de las variables
names(datos)

## [1] "TiempoEntrega" "NumeroLatas"

"Distancia"

Estimación con mínimos cuadrados
Podemos escribir el modelo de regresión lineal múltiple en término de las observaciones como

y = β 0 + β1 xi1 + β 2 xi2 + ⋯ + βk xik + εi
k

= β 0 + ∑ β j xij + εi

i = 1, 2, … , n

j=1

La función de mínimos cuadrados es
n

k
⎛
⎞
yi − β 0 − ∑ β j xij
⎝
⎠
j=1
i=1
n

2

L = ∑ϵ2i = ∑
i=1

La función

L se minimizará con respecto a β 0 , β 1 , … , βk
∂L ∣
∣
∂βj ∣βˆ

ˆ

ˆ

0 ,β 1 ,…,β k

y se debe satisfacer

n
k
⎛
⎞
= −2 ∑ y i − βˆ0 − ∑ βˆj xij xij = 0
⎝
⎠
i=1
j=1

j = 1, 2, … , k

Simplificando las ecuaciones anteriores se obtienen las ecuaciones normales de mínimos cuadrados
El modelo puede ser escrito en forma matricial como

Y = Xβ + ε
⎡ y1 ⎤
⎡1
y
⎢ 2⎥
⎢1
⎥
donde Y =⎢
,X= ⎢
⎢
⎥
⎢
⎢ ⋮ ⎥
⎢⋮
⎣1
⎣y ⎦
n

x11
x21

x12
x22

⋯
⋯

⋮
xn1

⋮
xn2

⋯

El código en R es el siguiente
#Creando el modelo de regresión
x=c(rep(1,25),datos[,2],datos[,3])
X=matrix(x,nrow=25,ncol=3)
Y=datos[,1]
XX=t(X)%*%X
XY=t(X)%*%Y
Best=solve(XX)%*%XY
Best

##
[,1]
## [1,] 2.26379143
## [2,] 2.74426964
## [3,] 0.01252781

Yest=X%*%Best
residuos=Y-Yest
# Gráfico de los datos
pairs(datos)

x1k⎤
⎡ β0 ⎤
⎡ ε1 ⎤
β
x1k ⎥
⎢ 1⎥
⎢ ε2 ⎥
⎥
⎥
,β= ⎢
yε= ⎢ ⎥
⎢
⎥
⎥
⎢⋮ ⎥
⎢ ⋮ ⎥
⋮ ⎥
⎣ε ⎦
⎦
⎣
⎦
x
β
nk

k

n

#...Modelo de regresión lineal
# Modelo simple
regresion = lm(NumeroLatas ~ TiempoEntrega, data = datos)
regresion

##
## Call:
## lm(formula = NumeroLatas ~ TiempoEntrega, data = datos)
##
## Coefficients:
##
(Intercept) TiempoEntrega
##
-1.4015
0.3321

# Gráfico de regresión lineal
plot(NumeroLatas~ TiempoEntrega, xlab = "Tiempo de entrega", ylab = "Número de latas")
abline(regresion)

# Modelo lineal multiple
regr = lm(NumeroLatas ~ TiempoEntrega + Distancia, data = datos)
regr

##
## Call:
## lm(formula = NumeroLatas ~ TiempoEntrega + Distancia, data = datos)
##
## Coefficients:
##
(Intercept) TiempoEntrega
Distancia
##
-0.692657
0.355317
-0.004169

Intervalo de confianza en la...