Radial Basis Functions

Radial Basis Functions

RBF (Radial Basis Functions) RBF  Respuesta Localmente Sintonizada. Ciertas BNN (Biological Neural Networks) responden a entradas específicas. RBF son redes neurales adaptativas. Supervisada.

Tomaso Poggio

Arquitectura 0 1 2 El nivel 1 no tiene pesos.

Propiedades de las RBF calcula la proximidad de a • es: • Isotropa. • Tiene un máximo en • mide la anchura de campo receptivo.

Algoritmo Simple 1.- Dado tomar un tal que 2.- Clasificar según por Kohonen. 3.- Hacer 4.- Calcular 5.- Calcular 6.- Actualizar los pesos

RBF funciona como: • Aproximador universal de funciones continuas. con representando bases no ortogonales • Clasificador.

Interpolación con RBF Aproximación de la función por una RBF (línea sólida), basada en interpolación estricta, utilizando 15 muestras (círculos). La red RBF usa 15 unidades Gaussianas ocultas, y su salida se muestra para tres anchuras de las unidades ocultas: =0.5 ( ), =1.0 ( ), =1.5 ( ).

Interpolacion con BKP Aproximación de la función por una red neural (línea sólida). La línea punteada se obtuvo con una red feedforward de 3 capas ocultas. La línea rayada se generó utilizando una red feedforward de 12 capas ocultas.

RBF versus MLP en interpolaciones RBF • Carácter local  Extrapola MAL. • Interpola bien • Si existen muchos datos  mejor RBF. • + Simple • Aprendizaje + rápido. BPN • Carácter global  Extrapola BIEN. • Si existen pocos datos  mejor BPN. • - Simple • Aprendizaje + lento.

RBF-BPN

Ejemplo RBF como clasificador XOR 11 01 00 10 1 0.367 0.135 0.367 0.135 0.367 1 0.367 x2 (0 1) (1 1) (0 0) x1 (1 0)

Ejemplo RBF como clasificador XOR (0 0) 1.0 0.8 0.6 0.4 (0 1) 0.2 (1 0) (1 1) 0.2 0.4 0.6 0.8 1.0 Un perceptrón puede acabar de clasificarlos ya que son linealmente separables.

Radial Basis Functions