Cuda em ambientes de cluster e cloud
This presentation is the property of its rightful owner.
Sponsored Links
1 / 68

CUDA EM AMBIENTES DE CLUSTER E CLOUD PowerPoint PPT Presentation


  • 48 Views
  • Uploaded on
  • Presentation posted in: General

CUDA EM AMBIENTES DE CLUSTER E CLOUD. Prof. Dr. Luciano Silva [email protected] Laboratório de Processamento Gráfico e Mídias Digitais Laboratório de Sistemas Distribuídos. ERAD-SP , Campinas (SP), Julho de 2012. MOTIVAÇÃO. ERAD-SP 2012. MOTIVAÇÃO. ERAD-SP 2012. MOTIVAÇÃO.

Download Presentation

CUDA EM AMBIENTES DE CLUSTER E CLOUD

An Image/Link below is provided (as is) to download presentation

Download Policy: Content on the Website is provided to you AS IS for your information and personal use and may not be sold / licensed / shared on other websites without getting consent from its author.While downloading, if for some reason you are not able to download a presentation, the publisher may have deleted the file from their server.


- - - - - - - - - - - - - - - - - - - - - - - - - - E N D - - - - - - - - - - - - - - - - - - - - - - - - - -

Presentation Transcript


Cuda em ambientes de cluster e cloud

CUDA EM AMBIENTES DE CLUSTER E CLOUD

Prof. Dr. Luciano Silva

[email protected]

Laboratório de Processamento Gráfico e Mídias Digitais

Laboratório de Sistemas Distribuídos

ERAD-SP, Campinas (SP), Julho de 2012


Motiva o

MOTIVAÇÃO

ERAD-SP 2012


Motiva o1

MOTIVAÇÃO

ERAD-SP 2012


Motiva o2

MOTIVAÇÃO

ERAD-SP 2012


Motiva o3

MOTIVAÇÃO

ERAD-SP 2012


Objetivos

OBJETIVOS

  • Conhecer o conceito de cluster (aglomerado) de GPUs e exemplos

  • Apresentar os princípios de funcionamento do ambiente MPI-CUDA para clusters de GPUs e sua programação

  • Conhecer o conceito de virtualização de GPU como suporte a gpu cloud computing

  • Apresentar os princípios de funcionamento de CUDA em sistemas virtualizados de GPUs

  • Discutir possibilidades de pesquisa em cluster e cloud com GPUs

ERAD-SP 2012


T picos

TÓPICOS

  • PARTE I – CUDA EM CLUSTERS DE GPU

    • Revisão da arquitetura CUDA

    • Clusters de GPU

    • CUDA em clusters de GPU

  • PARTE II – CUDA EM CLOUD

    • Virtualização de GPUs

    • Virtualização de GPUs NVidia

    • Virtualização por software – GVirtuS

    • Virtualização por hardware – Nvidia VGX

ERAD-SP 2012


Computa o heterog nea

CUDA EM AMBIENTES DE CLUSTER E CLOUD

Computação Heterogênea

MPI-CUDA

CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

CPU

GPU

ERAD-SP 2012


Arquitetura cuda c ompute u nified d evice a rchitecture

CUDA EM AMBIENTES DE CLUSTER E CLOUD

Arquitetura CUDACompute Unified Device Architecture

MPI-CUDA

CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

CPU

GPU

ERAD-SP 2012


Arquitetura cuda

CUDA EM AMBIENTES DE CLUSTER E CLOUD

Arquitetura CUDA

MPI-CUDA

CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012


Arquitetura cuda1

CUDA EM AMBIENTES DE CLUSTER E CLOUD

Arquitetura CUDA

MPI-CUDA

CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012


Arquitetura cuda2

CUDA EM AMBIENTES DE CLUSTER E CLOUD

Arquitetura CUDA

MPI-CUDA

CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012


Arquitetura cuda3

CUDA EM AMBIENTES DE CLUSTER E CLOUD

Arquitetura CUDA

MPI-CUDA

CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012


N veis de invoca o em cuda

CUDA EM AMBIENTES DE CLUSTER E CLOUD

Níveis de Invocação em CUDA

MPI-CUDA

CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012


Compila o

CUDA EM AMBIENTES DE CLUSTER E CLOUD

Compilação

MPI-CUDA

CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012


Refer ncias sugeridas

CUDA EM AMBIENTES DE CLUSTER E CLOUD

Referências Sugeridas

MPI-CUDA

CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012


Ambientes iniciais t picos

CUDA EM AMBIENTES DE CLUSTER E CLOUD

Ambientes Iniciais Típicos

MPI-CUDA

CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012


Evolu o i

CUDA EM AMBIENTES DE CLUSTER E CLOUD

Evolução (I)

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012


Evolu o ii

CUDA EM AMBIENTES DE CLUSTER E CLOUD

Evolução (II)

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012


Evolu o iii

CUDA EM AMBIENTES DE CLUSTER E CLOUD

Evolução (III)

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012


Evolu o iv

CUDA EM AMBIENTES DE CLUSTER E CLOUD

Evolução (IV)

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012


Evolu o v

CUDA EM AMBIENTES DE CLUSTER E CLOUD

Evolução (V)

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

www.amax.com

ERAD-SP 2012


Evolu o vi

CUDA EM AMBIENTES DE CLUSTER E CLOUD

Evolução (VI)

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012


Arquitetura i duas placas mesmo n

CUDA EM AMBIENTES DE CLUSTER E CLOUD

Arquitetura (I) – Duas Placas – Mesmo Nó

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012


Arquitetura i duas placas mesmo n1

CUDA EM AMBIENTES DE CLUSTER E CLOUD

Arquitetura (I) – Duas Placas - Mesmo Nó

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012


Arquitetura i duas placas mesmo n identifica o dos dispositivos

CUDA EM AMBIENTES DE CLUSTER E CLOUD

Arquitetura (I) – Duas Placas - Mesmo NóIdentificação dos Dispositivos

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012


Arquitetura i duas placas mesmo n m ltiplas threads no host m ltiplos devices

CUDA EM AMBIENTES DE CLUSTER E CLOUD

Arquitetura (I) – Duas Placas - Mesmo NóMúltiplas Threads no Host – Múltiplos Devices

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012


Arquitetura i duas placas mesmo n m ltiplas threads no host m ltiplos devices1

CUDA EM AMBIENTES DE CLUSTER E CLOUD

Arquitetura (I) – Duas Placas - Mesmo NóMúltiplas Threads no Host – Múltiplos Devices

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012


Arquitetura i duas placas mesmo n uva unified virtual addressing tesla s rie 20 fermi cuda 4 0

CUDA EM AMBIENTES DE CLUSTER E CLOUD

Arquitetura (I) – Duas Placas - Mesmo NóUVA – UNIFIED VIRTUAL ADDRESSING (TESLA SÉRIE-20, FERMI,…) – CUDA 4.0

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

SEM UVA

MÚLTIPLOS ESPAÇOS DE MEMÓRIA

COM UVA

ESPAÇO DE MEMÓRIA ÚNICO

ERAD-SP 2012


Arquitetura i duas placas mesmo n sem uva

CUDA EM AMBIENTES DE CLUSTER E CLOUD

Arquitetura (I) – Duas Placas - Mesmo NóSEM UVA

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012


Arquitetura i duas placas mesmo n com uva tecnologia gpudirect

CUDA EM AMBIENTES DE CLUSTER E CLOUD

Arquitetura (I) – Duas Placas - Mesmo NóCOM UVA – Tecnologia GPUDirect

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012


Arquitetura i duas placas mesmo n c pia direta de dados entre gpus

CUDA EM AMBIENTES DE CLUSTER E CLOUD

Arquitetura (I) – Duas Placas - Mesmo NóCópia Direta de Dados entre GPUs

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012


Arquitetura i duas placas mesmo n acesso direto de dados entre gpus

CUDA EM AMBIENTES DE CLUSTER E CLOUD

Arquitetura (I) – Duas Placas - Mesmo NóAcesso Direto de Dados entre GPUs

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012


Arquitetura ii duas placas n s diferentes infiniband

CUDA EM AMBIENTES DE CLUSTER E CLOUD

Arquitetura (II) – Duas Placas – Nós DiferentesInfiniBand

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012


Arquitetura ii duas placas n s diferentes infiniband1

CUDA EM AMBIENTES DE CLUSTER E CLOUD

Arquitetura (II) – Duas Placas – Nós DiferentesInfiniBand

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012


Arquitetura ii duas placas n s diferentes movimenta o de dados

CUDA EM AMBIENTES DE CLUSTER E CLOUD

Arquitetura (II) – Duas Placas – Nós DiferentesMovimentação de Dados

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

No caso convencional, os dispositivos GPU e IB Adapter

requerem buffers diferentes na memória principal.

ERAD-SP 2012


Arquitetura ii duas placas n s diferentes movimenta o de dados sem gpudirect

CUDA EM AMBIENTES DE CLUSTER E CLOUD

Arquitetura (II) – Duas Placas – Nós DiferentesMovimentação de Dados – Sem GPUDirect

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012


Arquitetura ii duas placas n s diferentes movimenta o de dados com gpudirect

CUDA EM AMBIENTES DE CLUSTER E CLOUD

Arquitetura (II) – Duas Placas – Nós DiferentesMovimentação de Dados – Com GPUDirect

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012


Arquitetura ii duas placas n s diferentes movimenta o de dados uso de mpi

CUDA EM AMBIENTES DE CLUSTER E CLOUD

Arquitetura (II) – Duas Placas – Nós DiferentesMovimentação de Dados – USO DE MPI

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

  • [PROCESSO REMETENTE]: [CUDA] Memória Device  Memória Host

  • [MPI]: [PROCESSO REMETENTE]  [PROCESSO DESTINATÁRIO]

  • [PROCESSO DESTINATÁRIO]: [CUDA] Memória Host  Memória Device

ERAD-SP 2012


Arquitetura ii duas placas n s diferentes mpi e cuda implementa o na ve

CUDA EM AMBIENTES DE CLUSTER E CLOUD

Arquitetura (II) – Duas Placas – Nós DiferentesMPI e CUDA – Implementação Naïve

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012


Arquitetura ii duas placas n s diferentes mpi e cuda otimiza o

CUDA EM AMBIENTES DE CLUSTER E CLOUD

Arquitetura (II) – Duas Placas – Nós DiferentesMPI e CUDA – Otimização

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012


Cuda em ambientes de cluster e cloud

CUDA EM AMBIENTES DE CLUSTER E CLOUD

Arquitetura (II) – Duas Placas – Nós DiferentesMPI e CUDA – MVAPICH2-GPUhttp://nowlab.cse.ohio-state.edu/projects/mpi-gpu/index.html

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012


Arquitetura ii duas placas n s diferentes mpi e cuda mvapich2 gpu

CUDA EM AMBIENTES DE CLUSTER E CLOUD

Arquitetura (II) – Duas Placas – Nós DiferentesMPI e CUDA – MVAPICH2-GPU

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012


Arquitetura ii duas placas n s diferentes compara o de desempenho

CUDA EM AMBIENTES DE CLUSTER E CLOUD

Arquitetura (II) – Duas Placas – Nós DiferentesComparação de Desempenho

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012


Refer ncia sugerida

CUDA EM AMBIENTES DE CLUSTER E CLOUD

Referência Sugerida

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012


Carma development kit http www secoqseven com

CUDA EM AMBIENTES DE CLUSTER E CLOUD

Carma Development Kithttp://www.secoqseven.com

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012


Virtualiza o de gpus

CUDA EM AMBIENTES DE CLUSTER E CLOUD

Virtualização de GPUs

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012


Virtualiza o de gpus nvidia

CUDA EM AMBIENTES DE CLUSTER E CLOUD

Virtualização de GPUs NVidia

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012


Gvirtus arquitetura baseada em software universidade de napoli

CUDA EM AMBIENTES DE CLUSTER E CLOUD

GVirtuS – Arquitetura Baseada em SoftwareUniversidade de Napoli

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012


Gvirtus arquitetura baseada em software

CUDA EM AMBIENTES DE CLUSTER E CLOUD

GVirtuS – Arquitetura Baseada em Software

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012


Ambiente de testes do gvirtus

CUDA EM AMBIENTES DE CLUSTER E CLOUD

Ambiente de Testes do GVirtuS

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012


Testes de desempenho

CUDA EM AMBIENTES DE CLUSTER E CLOUD

Testes de Desempenho

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012


Virtualiza o de gpus nvidia1

CUDA EM AMBIENTES DE CLUSTER E CLOUD

Virtualização de GPUs NVidia

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012


Placas nvidia vgx kepler

CUDA EM AMBIENTES DE CLUSTER E CLOUD

Placas Nvidia VGX ( Kepler)

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012


Nvidia vgx hypervisor kepler

CUDA EM AMBIENTES DE CLUSTER E CLOUD

Nvidia VGX Hypervisor ( Kepler)

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012


Nvidia vgx hypervisor kepler1

CUDA EM AMBIENTES DE CLUSTER E CLOUD

Nvidia VGX Hypervisor ( Kepler)

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012


Cuda em ambientes de cluster e cloud

CUDA EM AMBIENTES DE CLUSTER E CLOUD

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012


Gpus heterog neas

OPORTUNIDADES DE PESQUISA

GPUs HETEROGÊNEAS

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

HOST

NVIDIA

ATI

ERAD-SP 2012


Frameworks de escalonamento cuda

OPORTUNIDADES DE PESQUISA

Frameworks de Escalonamento CUDA

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

Escalonador

ERAD-SP 2012


Esquemas sist licos intra e inter gpus

OPORTUNIDADES DE PESQUISA

Esquemas Sistólicos Intra e Inter-GPUs

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012


Gaas gpu as a service

OPORTUNIDADES DE PESQUISA

GaaS – GPU as a Service

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012


Hpaas high performance as a service

OPORTUNIDADES DE PESQUISA

HPaaS – High Performance as a Service

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012


Kepler cuda vgx bridge

OPORTUNIDADES DE PESQUISA

Kepler CUDA-VGX Bridge

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012


Gpu cluster based rendering

OPORTUNIDADES DE PESQUISA

GPU-Cluster based Rendering

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012


Cloud graphics

OPORTUNIDADES DE PESQUISA

Cloud Graphics

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012


Google glass

OPORTUNIDADES DE PESQUISA

Google Glass

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012


Cloud gaming

OPORTUNIDADES DE PESQUISA

Cloud Gaming

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012


Cuda em ambientes de cluster e cloud

OBRIGADO PELA ATENÇÃO!

Prof. Dr. Luciano Silva

[email protected]

Laboratório de Processamento Gráfico e Mídias Digitais

Laboratório de Sistemas Distribuídos


  • Login