Universidade Federal do Rio Grande do Norte

1. Universidade Federal do Rio Grande do Norte Programa de pós-graduação em Engenharia Elétrica e de Computação Defesa de Mestrado Separação cega de fontes lineares e não lineares usando Algoritmos Genéticos, Redes Neurais RBF e Negentropia de Rényi como medida de independência Aluno: Nielsen Castelo Damasceno Orientador: Allan de Medeiros Martins Co-Orientador: Adrião Duarte Dória Neto

2. AGENDA • Introdução • Análise de Componentes Independentes • Separação de fontes usando Negentropia • Algoritmo Genéticos • RBF • Método proposto • Resultados experimentais • Considerações finais

3. INTRODUÇÃO • Surgimento de novas técnicas de separação de sinais; • Algoritmos ICA que utilizam medida de Independência: estatística de ordem superior e teoria da informação; • Contribuições de Alfred Rényi; • Na década de 90 deram os passos iniciais para utilização da entropia de Rényi; • Algoritmos que utilizam entropia de Rényi com kernel gaussiano e janelamento de Parzen.

4. OBJETIVO Separações cega de fontes para o caso de misturas lineares e não-lineares. Utilizando RBF , Algoritmos Genéticos e a Negentropia de Rényi. • Encontrar um matriz de separação W. • Encontrar uma função G não linear.

5. ANÁLISE DE COMPONENTES INDEPENDENTES Dado um problema de resolução de um sistema de equação linear Solução: atribuir algumas propriedades estáticas sobre os sinais.

6. ANÁLISE DE COMPONENTES INDEPENDENTES • Motivado pelo problema do Cocktail-party Fonte: s Coeficientes: A Misturas: x

7. ANÁLISE DE COMPONENTES INDEPENDENTES • Definição de ICA: A ICA de um vetor aleatório consiste na determinação de uma transformação linear. • minimize uma função custo , chamada de função contraste,

8. ANÁLISE DE COMPONENTES INDEPENDENTES • Considere os sinais de misturas , sendo formados por um modelo de misturas instantâneo não linear dado por: • A proposta é estimar a inversa da transformação (sistema separador), tal que: • Varios métodos NLICA impõe restrições ao modelo de mistura • Mapeamentos não-linear que preserva a Independência é chamada de trivial.

9. SEPARAÇÃODE FONTES USANDO NEGENTROPIA • NEGENTROPIA • Conceito base: Entropia • Teoria da informação: Uma variável gaussiana tem o maior valor da entropia • Medida de não-gaussianidade • Método clássico • Substituir momentos polinomiais

10. ALGORITMOS GENÉTICOS • Baseado nos mecanismo de seleção e evolução natural; • Problemas de otimização

11. 0 0 0 0 0 0 0 0 0 0 ALGORITMOS GENÉTICOS • Representação • Inicialização da população • Avaliação • Negentropia de Rényi

12. Pai 1 0 0 1 1 0 1 0 ALGORITMOS GENÉTICOS Pai A 1 0 0 1 1 0 1 0 Filho 1 0 0 0 1 0 1 0 Pai B 0 0 1 0 1 1 0 0 • Seleção • Reprodução a) Ponto do corte 1 0 1 0 1 0 1 0 0 0 0 1 1 1 0 0 b) Resultado da recombinação

13. REDESNEURAISARTIFICIAIS • Neurônio artificial; • Arquiteturas: Recorrentes e Multicamadas • RBF (Radial BasisFunctions)

14. MÉTODOPROPOSTO • Modelo geral estratégia linear A W s x y Parâmetros desconhecidos AG(W,x,y) A3) Armazenando essas matrizes que resultou na maior independência

15. MÉTODOPROPOSTO • Modelo geral estratégia não linear s x y Parâmetros desconhecidos AG(W,C,x,y) • Gera novamente outro e assim armazenar o que deu maior independência.

16. MÉTODOPROPOSTO Entropia de Rényipara um v.a. X :

17. MÉTODOPROPOSTO

18. MÉTODOPROPOSTO • Entropia quadrática de Rényi

19. MÉTODOPROPOSTO Negentropia de Rényi

20. RESULTADOS EXPERIMENTAIS • Separação cega de fontes lineares • 65536 amostras • População com 16 bits para cada gene • População com 144 bits

21. RESULTADOS EXPERIMENTAIS

22. RESULTADOS EXPERIMENTAIS

23. RESULTADOS EXPERIMENTAIS • Comparação entre modelo linear e outras abordagens

24. RESULTADOS EXPERIMENTAIS • Separação cega de fontes não lineares • População com 16 bits para cada gene • População com 640 bits

25. RESULTADOS EXPERIMENTAIS • 65536 amostras • População com 16 bits para cada gene • População com 640 bits

26. RESULTADOS EXPERIMENTAIS • População com 16 bits para cada gene • 120 genes • População de 1920 bits

27. RESULTADOS EXPERIMENTAIS A W • Separação cega de fontes com adição de ruído

28. RESULTADOS EXPERIMENTAIS

29. RESULTADOS EXPERIMENTAIS

30. CONSIDERAÇÕES FINAIS • Neste trabalho, propomos a aplicação GA para maximizar a Negentropia de Rényi das misturas. • Modelo linear deve-se ajustar o parâmetro da Negentropia. • Quantidade de amostras no sinal de fontes. • No modelo não linear deve-se ajustar o parâmetro da Negentropia e da função de base radial. • Adição de ruído gaussiano no modelo linear e não linear. • Fazer uma análise no parâmetro da Negentropia. • Testes em cenários práticos em tempo real. • Experimentos em ambientes sobre-determinados e sub-determinados. • Prova da separabilidade do modelo.

31. MUITOOBRIGADO!