Procesos Gaussianos

Procesos Gaussianos
Se define como una distribución de vectores en donde esta es totalmente definida por una media y covarianza, La posición del azar en la que se encuentra una variable en el vector desempeña el papel importante para la función. La función covarianza define las propiedades del espacio funcional, se toman puntos de datos para definir muestras o la función en partes específicasde la señal. Un proceso de gauss es una colección de variables aleatorias o muestras finitas de las cuales se obtiene una distribución conjunta, el proceso es de dimensiones finitas sin embargo solo se trabaja con un subconjunto finito.
Para poder definir un proceso gaussiano, debemos tener primero en cuenta otros conceptos que son de gran importancia para el análisis de un proceso gaussiano.Por ejemplo los conceptos de modelos paramétricos y modelos no paramétricos. Los procesos gaussianos, para los modelos paramétricos los podemos observar en las máquinas de vectores de soporte, y las redes neuronales. Básicamente el problema es asignar una función que determine todo el número de entradas posibles en un sistema. Si se elige la forma equivocada de la función las predicciones seránpobres. Debemos aplicar probabilidad a las funciones que se consideren más probables, las posibilidades infinitas de funciones a considerar.


En la figura izquierda se muestra la distribución de la función sin datos observados, en la figura de la derecha observamos las muestras de distribución con datos observados, la línea de color negro muestra la media, y las líneas sombreadas dos veces ladesviación estándar.

La función media f(x) es definida como cero, y es justificada con la manipulación de datos. La función de covarianza k(x, x’) define las propiedades de las funciones consideradas para la interferencia. Los Procesos Gaussianos proporcionan un enfoque bien definido para el modelo de aprendizaje e hiperparámetros de los datos.
También se empieza a definir otros conceptos comola regresión. Esta es la Predicción de la cantidad continua, y, de entrada, x *. Se asume que esta predicción consta de dos partes. Una variación sistemática, predicha con precisión por un proceso subyacente f ( x ) , y una variación aleatoria, que es la imprevisibilidad del sistema .
El resultado: yi = f ( xi ) + ε i

La regresión lineal bayesiana nos ofrece un ejemplo sencillo de un procesogaussiano
y = xTw + ε
Esta fórmula calcula una distribución en pesos y deriva una predicción descriptiva. Para esta predicción descriptiva también podemos usar la formula
F*|x*,X, y = N(x*T A−1X y, x*T A−1x*)

En la regresión lineal de una restricción, debe haber una relación entre las observaciones y la salida debe ser lineal . Una alternativa es utilizar un núcleo :

Debe haber medidade similitud entre los puntos.

Las proyecciones en espacio de funciones se toma como modelo la siguiente formula

En donde es una proyección de x en el espacio, la distribución de predicción se convierte en


Donde es una agregación de en el conjunto de entrenamiento.

La función espacio, o función espacial se deben generar vectores de gauss para generar funciones, estos vectores deGauss se generan al azar con un matriz de covarianza definida por los puntos de entrada.

Dado que estamos interesados ​​en hacer predicciones más que generar funciones se quiere incorporar el conocimiento de los datos de entrenamiento. Esto para un médico de cabecera con media cero y la función de covarianza
Al distribuir las salidas tenemos


Las ecuaciones para la predicción deregresión GP es

Donde


Las funciones de covarianza son representadas entre pares de variables aleatorias

Un ejemplo de ello es el ruido ( es decir, ruido blanco - espectro plano ) .

Funciones de covarianza
La función de covarianza debe ser:
Positiva semi-definida
simétrico
Funciones de covarianza se pueden dividir a grandes rasgos en dos grupos:
Estacionario: Una función de xi = xj....