1 / 68

CUDA EM AMBIENTES DE CLUSTER E CLOUD

CUDA EM AMBIENTES DE CLUSTER E CLOUD. Prof. Dr. Luciano Silva luciano.silva@mackenzie.br Laboratório de Processamento Gráfico e Mídias Digitais Laboratório de Sistemas Distribuídos. ERAD-SP , Campinas (SP), Julho de 2012. MOTIVAÇÃO. ERAD-SP 2012. MOTIVAÇÃO. ERAD-SP 2012. MOTIVAÇÃO.

shada
Download Presentation

CUDA EM AMBIENTES DE CLUSTER E CLOUD

An Image/Link below is provided (as is) to download presentation Download Policy: Content on the Website is provided to you AS IS for your information and personal use and may not be sold / licensed / shared on other websites without getting consent from its author. Content is provided to you AS IS for your information and personal use only. Download presentation by click this link. While downloading, if for some reason you are not able to download a presentation, the publisher may have deleted the file from their server. During download, if you can't get a presentation, the file might be deleted by the publisher.

E N D

Presentation Transcript

  1. CUDA EM AMBIENTES DE CLUSTER E CLOUD Prof. Dr. Luciano Silva luciano.silva@mackenzie.br Laboratório de Processamento Gráfico e Mídias Digitais Laboratório de Sistemas Distribuídos ERAD-SP, Campinas (SP), Julho de 2012

  2. MOTIVAÇÃO ERAD-SP 2012

  3. MOTIVAÇÃO ERAD-SP 2012

  4. MOTIVAÇÃO ERAD-SP 2012

  5. MOTIVAÇÃO ERAD-SP 2012

  6. OBJETIVOS • Conhecer o conceito de cluster (aglomerado) de GPUs e exemplos • Apresentar os princípios de funcionamento do ambiente MPI-CUDA para clusters de GPUs e sua programação • Conhecer o conceito de virtualização de GPU como suporte a gpu cloud computing • Apresentar os princípios de funcionamento de CUDA em sistemas virtualizados de GPUs • Discutir possibilidades de pesquisa em cluster e cloud com GPUs ERAD-SP 2012

  7. TÓPICOS • PARTE I – CUDA EM CLUSTERS DE GPU • Revisão da arquitetura CUDA • Clusters de GPU • CUDA em clusters de GPU • PARTE II – CUDA EM CLOUD • Virtualização de GPUs • Virtualização de GPUs NVidia • Virtualização por software – GVirtuS • Virtualização por hardware – Nvidia VGX ERAD-SP 2012

  8. CUDA EM AMBIENTES DE CLUSTER E CLOUD Computação Heterogênea MPI-CUDA CUDA CLUSTER DE GPU VIRTUALIZAÇÃO DE GPU CUDA CLOUD CPU GPU ERAD-SP 2012

  9. CUDA EM AMBIENTES DE CLUSTER E CLOUD Arquitetura CUDACompute Unified Device Architecture MPI-CUDA CUDA CLUSTER DE GPU VIRTUALIZAÇÃO DE GPU CUDA CLOUD CPU GPU ERAD-SP 2012

  10. CUDA EM AMBIENTES DE CLUSTER E CLOUD Arquitetura CUDA MPI-CUDA CUDA CLUSTER DE GPU VIRTUALIZAÇÃO DE GPU CUDA CLOUD ERAD-SP 2012

  11. CUDA EM AMBIENTES DE CLUSTER E CLOUD Arquitetura CUDA MPI-CUDA CUDA CLUSTER DE GPU VIRTUALIZAÇÃO DE GPU CUDA CLOUD ERAD-SP 2012

  12. CUDA EM AMBIENTES DE CLUSTER E CLOUD Arquitetura CUDA MPI-CUDA CUDA CLUSTER DE GPU VIRTUALIZAÇÃO DE GPU CUDA CLOUD ERAD-SP 2012

  13. CUDA EM AMBIENTES DE CLUSTER E CLOUD Arquitetura CUDA MPI-CUDA CUDA CLUSTER DE GPU VIRTUALIZAÇÃO DE GPU CUDA CLOUD ERAD-SP 2012

  14. CUDA EM AMBIENTES DE CLUSTER E CLOUD Níveis de Invocação em CUDA MPI-CUDA CUDA CLUSTER DE GPU VIRTUALIZAÇÃO DE GPU CUDA CLOUD ERAD-SP 2012

  15. CUDA EM AMBIENTES DE CLUSTER E CLOUD Compilação MPI-CUDA CUDA CLUSTER DE GPU VIRTUALIZAÇÃO DE GPU CUDA CLOUD ERAD-SP 2012

  16. CUDA EM AMBIENTES DE CLUSTER E CLOUD Referências Sugeridas MPI-CUDA CUDA CLUSTER DE GPU VIRTUALIZAÇÃO DE GPU CUDA CLOUD ERAD-SP 2012

  17. CUDA EM AMBIENTES DE CLUSTER E CLOUD Ambientes Iniciais Típicos MPI-CUDA CUDA CLUSTER DE GPU VIRTUALIZAÇÃO DE GPU CUDA CLOUD ERAD-SP 2012

  18. CUDA EM AMBIENTES DE CLUSTER E CLOUD Evolução (I) CUDA MPI-CUDA CLUSTER DE GPU VIRTUALIZAÇÃO DE GPU CUDA CLOUD ERAD-SP 2012

  19. CUDA EM AMBIENTES DE CLUSTER E CLOUD Evolução (II) CUDA MPI-CUDA CLUSTER DE GPU VIRTUALIZAÇÃO DE GPU CUDA CLOUD ERAD-SP 2012

  20. CUDA EM AMBIENTES DE CLUSTER E CLOUD Evolução (III) CUDA MPI-CUDA CLUSTER DE GPU VIRTUALIZAÇÃO DE GPU CUDA CLOUD ERAD-SP 2012

  21. CUDA EM AMBIENTES DE CLUSTER E CLOUD Evolução (IV) CUDA MPI-CUDA CLUSTER DE GPU VIRTUALIZAÇÃO DE GPU CUDA CLOUD ERAD-SP 2012

  22. CUDA EM AMBIENTES DE CLUSTER E CLOUD Evolução (V) CUDA MPI-CUDA CLUSTER DE GPU VIRTUALIZAÇÃO DE GPU CUDA CLOUD www.amax.com ERAD-SP 2012

  23. CUDA EM AMBIENTES DE CLUSTER E CLOUD Evolução (VI) CUDA MPI-CUDA CLUSTER DE GPU VIRTUALIZAÇÃO DE GPU CUDA CLOUD ERAD-SP 2012

  24. CUDA EM AMBIENTES DE CLUSTER E CLOUD Arquitetura (I) – Duas Placas – Mesmo Nó CUDA MPI-CUDA CLUSTER DE GPU VIRTUALIZAÇÃO DE GPU CUDA CLOUD ERAD-SP 2012

  25. CUDA EM AMBIENTES DE CLUSTER E CLOUD Arquitetura (I) – Duas Placas - Mesmo Nó CUDA MPI-CUDA CLUSTER DE GPU VIRTUALIZAÇÃO DE GPU CUDA CLOUD ERAD-SP 2012

  26. CUDA EM AMBIENTES DE CLUSTER E CLOUD Arquitetura (I) – Duas Placas - Mesmo NóIdentificação dos Dispositivos CUDA MPI-CUDA CLUSTER DE GPU VIRTUALIZAÇÃO DE GPU CUDA CLOUD ERAD-SP 2012

  27. CUDA EM AMBIENTES DE CLUSTER E CLOUD Arquitetura (I) – Duas Placas - Mesmo NóMúltiplas Threads no Host – Múltiplos Devices CUDA MPI-CUDA CLUSTER DE GPU VIRTUALIZAÇÃO DE GPU CUDA CLOUD ERAD-SP 2012

  28. CUDA EM AMBIENTES DE CLUSTER E CLOUD Arquitetura (I) – Duas Placas - Mesmo NóMúltiplas Threads no Host – Múltiplos Devices CUDA MPI-CUDA CLUSTER DE GPU VIRTUALIZAÇÃO DE GPU CUDA CLOUD ERAD-SP 2012

  29. CUDA EM AMBIENTES DE CLUSTER E CLOUD Arquitetura (I) – Duas Placas - Mesmo NóUVA – UNIFIED VIRTUAL ADDRESSING (TESLA SÉRIE-20, FERMI,…) – CUDA 4.0 CUDA MPI-CUDA CLUSTER DE GPU VIRTUALIZAÇÃO DE GPU CUDA CLOUD SEM UVA MÚLTIPLOS ESPAÇOS DE MEMÓRIA COM UVA ESPAÇO DE MEMÓRIA ÚNICO ERAD-SP 2012

  30. CUDA EM AMBIENTES DE CLUSTER E CLOUD Arquitetura (I) – Duas Placas - Mesmo NóSEM UVA CUDA MPI-CUDA CLUSTER DE GPU VIRTUALIZAÇÃO DE GPU CUDA CLOUD ERAD-SP 2012

  31. CUDA EM AMBIENTES DE CLUSTER E CLOUD Arquitetura (I) – Duas Placas - Mesmo NóCOM UVA – Tecnologia GPUDirect CUDA MPI-CUDA CLUSTER DE GPU VIRTUALIZAÇÃO DE GPU CUDA CLOUD ERAD-SP 2012

  32. CUDA EM AMBIENTES DE CLUSTER E CLOUD Arquitetura (I) – Duas Placas - Mesmo NóCópia Direta de Dados entre GPUs CUDA MPI-CUDA CLUSTER DE GPU VIRTUALIZAÇÃO DE GPU CUDA CLOUD ERAD-SP 2012

  33. CUDA EM AMBIENTES DE CLUSTER E CLOUD Arquitetura (I) – Duas Placas - Mesmo NóAcesso Direto de Dados entre GPUs CUDA MPI-CUDA CLUSTER DE GPU VIRTUALIZAÇÃO DE GPU CUDA CLOUD ERAD-SP 2012

  34. CUDA EM AMBIENTES DE CLUSTER E CLOUD Arquitetura (II) – Duas Placas – Nós DiferentesInfiniBand CUDA MPI-CUDA CLUSTER DE GPU VIRTUALIZAÇÃO DE GPU CUDA CLOUD ERAD-SP 2012

  35. CUDA EM AMBIENTES DE CLUSTER E CLOUD Arquitetura (II) – Duas Placas – Nós DiferentesInfiniBand CUDA MPI-CUDA CLUSTER DE GPU VIRTUALIZAÇÃO DE GPU CUDA CLOUD ERAD-SP 2012

  36. CUDA EM AMBIENTES DE CLUSTER E CLOUD Arquitetura (II) – Duas Placas – Nós DiferentesMovimentação de Dados CUDA MPI-CUDA CLUSTER DE GPU VIRTUALIZAÇÃO DE GPU CUDA CLOUD No caso convencional, os dispositivos GPU e IB Adapter requerem buffers diferentes na memória principal. ERAD-SP 2012

  37. CUDA EM AMBIENTES DE CLUSTER E CLOUD Arquitetura (II) – Duas Placas – Nós DiferentesMovimentação de Dados – Sem GPUDirect CUDA MPI-CUDA CLUSTER DE GPU VIRTUALIZAÇÃO DE GPU CUDA CLOUD ERAD-SP 2012

  38. CUDA EM AMBIENTES DE CLUSTER E CLOUD Arquitetura (II) – Duas Placas – Nós DiferentesMovimentação de Dados – Com GPUDirect CUDA MPI-CUDA CLUSTER DE GPU VIRTUALIZAÇÃO DE GPU CUDA CLOUD ERAD-SP 2012

  39. CUDA EM AMBIENTES DE CLUSTER E CLOUD Arquitetura (II) – Duas Placas – Nós DiferentesMovimentação de Dados – USO DE MPI CUDA MPI-CUDA CLUSTER DE GPU VIRTUALIZAÇÃO DE GPU CUDA CLOUD • [PROCESSO REMETENTE]: [CUDA] Memória Device  Memória Host • [MPI]: [PROCESSO REMETENTE]  [PROCESSO DESTINATÁRIO] • [PROCESSO DESTINATÁRIO]: [CUDA] Memória Host  Memória Device ERAD-SP 2012

  40. CUDA EM AMBIENTES DE CLUSTER E CLOUD Arquitetura (II) – Duas Placas – Nós DiferentesMPI e CUDA – Implementação Naïve CUDA MPI-CUDA CLUSTER DE GPU VIRTUALIZAÇÃO DE GPU CUDA CLOUD ERAD-SP 2012

  41. CUDA EM AMBIENTES DE CLUSTER E CLOUD Arquitetura (II) – Duas Placas – Nós DiferentesMPI e CUDA – Otimização CUDA MPI-CUDA CLUSTER DE GPU VIRTUALIZAÇÃO DE GPU CUDA CLOUD ERAD-SP 2012

  42. CUDA EM AMBIENTES DE CLUSTER E CLOUD Arquitetura (II) – Duas Placas – Nós DiferentesMPI e CUDA – MVAPICH2-GPUhttp://nowlab.cse.ohio-state.edu/projects/mpi-gpu/index.html CUDA MPI-CUDA CLUSTER DE GPU VIRTUALIZAÇÃO DE GPU CUDA CLOUD ERAD-SP 2012

  43. CUDA EM AMBIENTES DE CLUSTER E CLOUD Arquitetura (II) – Duas Placas – Nós DiferentesMPI e CUDA – MVAPICH2-GPU CUDA MPI-CUDA CLUSTER DE GPU VIRTUALIZAÇÃO DE GPU CUDA CLOUD ERAD-SP 2012

  44. CUDA EM AMBIENTES DE CLUSTER E CLOUD Arquitetura (II) – Duas Placas – Nós DiferentesComparação de Desempenho CUDA MPI-CUDA CLUSTER DE GPU VIRTUALIZAÇÃO DE GPU CUDA CLOUD ERAD-SP 2012

  45. CUDA EM AMBIENTES DE CLUSTER E CLOUD Referência Sugerida CUDA MPI-CUDA CLUSTER DE GPU VIRTUALIZAÇÃO DE GPU CUDA CLOUD ERAD-SP 2012

  46. CUDA EM AMBIENTES DE CLUSTER E CLOUD Carma Development Kithttp://www.secoqseven.com CUDA MPI-CUDA CLUSTER DE GPU VIRTUALIZAÇÃO DE GPU CUDA CLOUD ERAD-SP 2012

  47. CUDA EM AMBIENTES DE CLUSTER E CLOUD Virtualização de GPUs CUDA MPI-CUDA CLUSTER DE GPU VIRTUALIZAÇÃO DE GPU CUDA CLOUD ERAD-SP 2012

  48. CUDA EM AMBIENTES DE CLUSTER E CLOUD Virtualização de GPUs NVidia CUDA MPI-CUDA CLUSTER DE GPU VIRTUALIZAÇÃO DE GPU CUDA CLOUD ERAD-SP 2012

  49. CUDA EM AMBIENTES DE CLUSTER E CLOUD GVirtuS – Arquitetura Baseada em SoftwareUniversidade de Napoli CUDA MPI-CUDA CLUSTER DE GPU VIRTUALIZAÇÃO DE GPU CUDA CLOUD ERAD-SP 2012

  50. CUDA EM AMBIENTES DE CLUSTER E CLOUD GVirtuS – Arquitetura Baseada em Software CUDA MPI-CUDA CLUSTER DE GPU VIRTUALIZAÇÃO DE GPU CUDA CLOUD ERAD-SP 2012

More Related