Descomposicion de Matrices con Sparse coding

Descomposici´
on de Matrices utilizando
pesos din´
amicos y descomposici´
on Sparse

Gabriel della Maggiora
Pontificia Universidad Cat´olica de Chile
gedellamaggiora@ing.puc.cl

Abstract
En este trabajo se propone combinar dos acercamientos al problema
de descomposici´
on de matrices, primero utilizamos factorizaci´on de
margen m´
aximo ya que este m´etodo ha probado ser efectivo para
el trabajocon sistemas de recomendaci´on. Por otra parte, se consider´
o que para aumentar el aprendizaje, es necesario introducir un
regularizador que induzca dispersi´on. Lo anterior se logra mediante
la introducci´
on del regularizador norma 1 que se utiliza en la descomposici´
on Lasso. Para combinar estos dos acercamientos para
resolver el problema de recomendaci´on se aplica un aproximador
de la norma1 mediante la norma 2 el cual es derivable y permite
que esta ecuci´
on sea resuelta mediante decenso de gradiente. Por
u
´ltimo, introducimos los pesos din´amicos en la ecuaci´on de manera
de ir variando los par´
ametros a medida que transcurren iteraciones
sobre la ecuaci´
on a optimizar.

1

Introducci´
on

Uno de los m´etodos m´
as relevantes en el ´area de sistemas recomendadores es ladescomposci´
on de matrices SVD [2], este sistema es el que en general ha obtenido
mejores resultados en este ´
ambito.
Adem´
as, este sistema ha sido mejorado con t´ecnicas utilizando predictores base en
conjunto con esta descomposici´on obteniendo uno de los mejores resultados hasta
el momento en distintos sets de prueba [7].
Por otra parte, en diversos trabajos sobre im´agenes se ha utilizado lasrepresentaciones sparse [5] con bastante ´exito sobre todo en el ´area de reconstrucci´on de
im´
agenes corruptas, la cual tiene un gran s´ımil con el ´area de sistemas de recomendaci´
on.
Una de las razones por la cual estos m´etodos han tenido ´exito es el hecho de que al
realizar la descompoci´
on se aprenden variables latentes sobre el usuario respectivo,
por lo que todos los gustos ypreferencias de este usuario se reflejan en las matrices
que resultan de la descomposici´on.

De lo que se investig´
o hay pocos intentos de intentar representar la matriz mediante
una descomposici´
on de tipo sparse, en general estos m´etodos se centran en mejorar
el predictor base en lugar de que la descomposici´on sea mejor.
La contribuci´
on de este trabajo es proponer un m´etodo de decomposici´on endonde
se utiliza un regularizador que fuerza a que se produzca una factorizaci´on en donde
la descomposici´
on que se produce de las matrices es sparse.
Este paper est´
a organizado de la siguiente manera:
• En la secci´
on 2 se describe trabajo previo y otorga el fondo matem´atico
para entender la optimizaci´on realizada
• En la secci´
on 3 se presenta el m´etodo propuesto en este paper y como serealiza el mismo.
• En la secci´
on 4 se presentan los resultados obtenidos por este m´etodo y se
discuten estos resultados.
• Finalmente en la secci´on 5 se presentan las principales conclusiones de este
trabajo.

2
2.1

Antecedentes
Aspectos Te´
oricos

La reducci´
on de dimensionalidad apunta a disminuir el tama˜
no de la informaci´on
relevante mientras se preserva la mayor cantidad de sucontenido. Estas t´ecnicas
involucran extracci´
on de caracter´ısticas que hacen uso de variables latentes. Lo
anterior puesto en el contexto de selecci´on de pel´ıculas representa la forma en que
los usuarios consideran las pel´ıculas, por lo que estas variables latentes conforman
por ejemplo los diferentes gustos del usuario. Estas variable latentes se representan
por vectores multidimensionales y sison agrupadas pueden ser representadas por
una matriz.
Tenemos una matriz R de N x M cuyo elemento rui corresponde a la evaluaci´on
que hace el usuario u sobre el objeto i, si el objeto no ha sido evaluado entonces se
coloca un cero. El proceso de recomendaci´on entonces apunta a descubrir cuales de
las entradas que son cero tienen una alta probabilidad de ser evaluadas en el futuro.
La...