Redes Neurais
170 likes | 333 Views
Redes Neurais. Uso de Redes Neurais MLP para resolver problemas de reconhecimento de padrões. Alexandre de Oliveira Stauffer. Modelo Geral. X 1. W 1. X 2. W 2. Função de Ativação. Função de Propagação. Y. W N. X N. X 1. 1. W 1. 2. W 2. Y. Z=X 1 W 1 +X 2 W 2. -3. X 2. 0.
Redes Neurais
E N D
Presentation Transcript
Redes Neurais Uso de Redes Neurais MLP para resolver problemas de reconhecimento de padrões Alexandre de Oliveira Stauffer
Modelo Geral X1 W1 X2 W2 Função de Ativação Função de Propagação Y WN ... XN
X1 1 W1 2 W2 Y Z=X1W1+X2W2 -3 X2 0 Modelo bidimensional 1, se Z>=1 0, cc Z=2 1
Modelo bidimensional X2 1 2X1-3X2-1=0 X1 1
Treinamento • Reconhecer função lógica OR; • Pesos Iniciais: [1, 1] • Bias Inicial: 3 • Regra Delta: ΔWi=-λεX • Y=1, se X1+X2-3>=0 • Y=0, cc
X1+X2-3=0 X1+2X2-2=0 2X1+2X2-1=0 Dinâmica de Treinamento X2 1 X1 1
X Y Redes MLP – Backpropagation
MLP: Treinamento • Conjuntos: treinamento, testes e validação; • devem possuir amostras de todas as classes; • devem possuir amostras bem distribuídas de todas as classes;
T MLP: Treinamento Erro Treinamento
MLP: Normalização • Ordenadas da entrada com magnitudes diferentes: • Pressão Sangüínea; • Idade; • Taxa de colesterol no sangue; • Xi=(Xi-μ)/σ • μ – estimador da média; • σ - estimador do desvio padrão;
1 0 MLP: Iniciar Pesos • Devem ser próximos de zero; • Devem ser inicializados de forma randômica (uniformemente distribuídos);
Erro W MLP: Tx. Aprendizagem • Solução: Taxa de aprendizagem adaptativa, que diminua com o tempo de aprendizagem;
Erro W MLP: Termo Momentum • Diminui instabilidade da rede; • Regra Delta: ΔWi+1=-λεX+α ΔWi
MLP: Estimadores • Estimador da média: centro de cada classe; • Estimador de desvio padrão: grau de dispersão da classe em torno de sua média;
MLP: PCA • Redução na dimensão do vetor de entradas; • Perda de informação; • Diminuição na complexidade da RNA; • Eliminação de Ruídos; • Calculado a partir da matriz de covariância;
Referências • C. M. Bishop, Neural Network for Pattern Recognition, Oxford University, 1995. • A. P. Braga, A. P. L. F. Carvalho, T. B. Ludemir, Fundamentos de Redes Neurais Artificiais, XI Escola de Computação, 1998. • http://ltc.nutes.ufrj.br/stauffer/rna • stauffer@centroin.com.br