cuda em ambientes de cluster e cloud
Download
Skip this Video
Download Presentation
CUDA EM AMBIENTES DE CLUSTER E CLOUD

Loading in 2 Seconds...

play fullscreen
1 / 68

CUDA EM AMBIENTES DE CLUSTER E CLOUD - PowerPoint PPT Presentation


  • 82 Views
  • Uploaded on

CUDA EM AMBIENTES DE CLUSTER E CLOUD. Prof. Dr. Luciano Silva [email protected] Laboratório de Processamento Gráfico e Mídias Digitais Laboratório de Sistemas Distribuídos. ERAD-SP , Campinas (SP), Julho de 2012. MOTIVAÇÃO. ERAD-SP 2012. MOTIVAÇÃO. ERAD-SP 2012. MOTIVAÇÃO.

loader
I am the owner, or an agent authorized to act on behalf of the owner, of the copyrighted work described.
capcha
Download Presentation

PowerPoint Slideshow about 'CUDA EM AMBIENTES DE CLUSTER E CLOUD' - shada


An Image/Link below is provided (as is) to download presentation

Download Policy: Content on the Website is provided to you AS IS for your information and personal use and may not be sold / licensed / shared on other websites without getting consent from its author.While downloading, if for some reason you are not able to download a presentation, the publisher may have deleted the file from their server.


- - - - - - - - - - - - - - - - - - - - - - - - - - E N D - - - - - - - - - - - - - - - - - - - - - - - - - -
Presentation Transcript
cuda em ambientes de cluster e cloud

CUDA EM AMBIENTES DE CLUSTER E CLOUD

Prof. Dr. Luciano Silva

[email protected]

Laboratório de Processamento Gráfico e Mídias Digitais

Laboratório de Sistemas Distribuídos

ERAD-SP, Campinas (SP), Julho de 2012

motiva o
MOTIVAÇÃO

ERAD-SP 2012

motiva o1
MOTIVAÇÃO

ERAD-SP 2012

motiva o2
MOTIVAÇÃO

ERAD-SP 2012

motiva o3
MOTIVAÇÃO

ERAD-SP 2012

objetivos
OBJETIVOS
  • Conhecer o conceito de cluster (aglomerado) de GPUs e exemplos
  • Apresentar os princípios de funcionamento do ambiente MPI-CUDA para clusters de GPUs e sua programação
  • Conhecer o conceito de virtualização de GPU como suporte a gpu cloud computing
  • Apresentar os princípios de funcionamento de CUDA em sistemas virtualizados de GPUs
  • Discutir possibilidades de pesquisa em cluster e cloud com GPUs

ERAD-SP 2012

t picos
TÓPICOS
  • PARTE I – CUDA EM CLUSTERS DE GPU
    • Revisão da arquitetura CUDA
    • Clusters de GPU
    • CUDA em clusters de GPU
  • PARTE II – CUDA EM CLOUD
    • Virtualização de GPUs
    • Virtualização de GPUs NVidia
    • Virtualização por software – GVirtuS
    • Virtualização por hardware – Nvidia VGX

ERAD-SP 2012

computa o heterog nea
CUDA EM AMBIENTES DE CLUSTER E CLOUDComputação Heterogênea

MPI-CUDA

CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

CPU

GPU

ERAD-SP 2012

arquitetura cuda c ompute u nified d evice a rchitecture
CUDA EM AMBIENTES DE CLUSTER E CLOUDArquitetura CUDACompute Unified Device Architecture

MPI-CUDA

CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

CPU

GPU

ERAD-SP 2012

arquitetura cuda
CUDA EM AMBIENTES DE CLUSTER E CLOUDArquitetura CUDA

MPI-CUDA

CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012

arquitetura cuda1
CUDA EM AMBIENTES DE CLUSTER E CLOUDArquitetura CUDA

MPI-CUDA

CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012

arquitetura cuda2
CUDA EM AMBIENTES DE CLUSTER E CLOUDArquitetura CUDA

MPI-CUDA

CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012

arquitetura cuda3
CUDA EM AMBIENTES DE CLUSTER E CLOUDArquitetura CUDA

MPI-CUDA

CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012

n veis de invoca o em cuda
CUDA EM AMBIENTES DE CLUSTER E CLOUDNíveis de Invocação em CUDA

MPI-CUDA

CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012

compila o
CUDA EM AMBIENTES DE CLUSTER E CLOUDCompilação

MPI-CUDA

CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012

refer ncias sugeridas
CUDA EM AMBIENTES DE CLUSTER E CLOUDReferências Sugeridas

MPI-CUDA

CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012

ambientes iniciais t picos
CUDA EM AMBIENTES DE CLUSTER E CLOUDAmbientes Iniciais Típicos

MPI-CUDA

CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012

evolu o i
CUDA EM AMBIENTES DE CLUSTER E CLOUDEvolução (I)

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012

evolu o ii
CUDA EM AMBIENTES DE CLUSTER E CLOUDEvolução (II)

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012

evolu o iii
CUDA EM AMBIENTES DE CLUSTER E CLOUDEvolução (III)

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012

evolu o iv
CUDA EM AMBIENTES DE CLUSTER E CLOUDEvolução (IV)

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012

evolu o v
CUDA EM AMBIENTES DE CLUSTER E CLOUDEvolução (V)

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

www.amax.com

ERAD-SP 2012

evolu o vi
CUDA EM AMBIENTES DE CLUSTER E CLOUDEvolução (VI)

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012

arquitetura i duas placas mesmo n
CUDA EM AMBIENTES DE CLUSTER E CLOUDArquitetura (I) – Duas Placas – Mesmo Nó

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012

arquitetura i duas placas mesmo n1
CUDA EM AMBIENTES DE CLUSTER E CLOUDArquitetura (I) – Duas Placas - Mesmo Nó

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012

arquitetura i duas placas mesmo n identifica o dos dispositivos
CUDA EM AMBIENTES DE CLUSTER E CLOUDArquitetura (I) – Duas Placas - Mesmo NóIdentificação dos Dispositivos

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012

arquitetura i duas placas mesmo n m ltiplas threads no host m ltiplos devices
CUDA EM AMBIENTES DE CLUSTER E CLOUDArquitetura (I) – Duas Placas - Mesmo NóMúltiplas Threads no Host – Múltiplos Devices

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012

arquitetura i duas placas mesmo n m ltiplas threads no host m ltiplos devices1
CUDA EM AMBIENTES DE CLUSTER E CLOUDArquitetura (I) – Duas Placas - Mesmo NóMúltiplas Threads no Host – Múltiplos Devices

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012

arquitetura i duas placas mesmo n uva unified virtual addressing tesla s rie 20 fermi cuda 4 0
CUDA EM AMBIENTES DE CLUSTER E CLOUDArquitetura (I) – Duas Placas - Mesmo NóUVA – UNIFIED VIRTUAL ADDRESSING (TESLA SÉRIE-20, FERMI,…) – CUDA 4.0

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

SEM UVA

MÚLTIPLOS ESPAÇOS DE MEMÓRIA

COM UVA

ESPAÇO DE MEMÓRIA ÚNICO

ERAD-SP 2012

arquitetura i duas placas mesmo n sem uva
CUDA EM AMBIENTES DE CLUSTER E CLOUDArquitetura (I) – Duas Placas - Mesmo NóSEM UVA

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012

arquitetura i duas placas mesmo n com uva tecnologia gpudirect
CUDA EM AMBIENTES DE CLUSTER E CLOUDArquitetura (I) – Duas Placas - Mesmo NóCOM UVA – Tecnologia GPUDirect

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012

arquitetura i duas placas mesmo n c pia direta de dados entre gpus
CUDA EM AMBIENTES DE CLUSTER E CLOUDArquitetura (I) – Duas Placas - Mesmo NóCópia Direta de Dados entre GPUs

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012

arquitetura i duas placas mesmo n acesso direto de dados entre gpus
CUDA EM AMBIENTES DE CLUSTER E CLOUDArquitetura (I) – Duas Placas - Mesmo NóAcesso Direto de Dados entre GPUs

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012

arquitetura ii duas placas n s diferentes infiniband
CUDA EM AMBIENTES DE CLUSTER E CLOUDArquitetura (II) – Duas Placas – Nós DiferentesInfiniBand

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012

arquitetura ii duas placas n s diferentes infiniband1
CUDA EM AMBIENTES DE CLUSTER E CLOUDArquitetura (II) – Duas Placas – Nós DiferentesInfiniBand

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012

arquitetura ii duas placas n s diferentes movimenta o de dados
CUDA EM AMBIENTES DE CLUSTER E CLOUDArquitetura (II) – Duas Placas – Nós DiferentesMovimentação de Dados

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

No caso convencional, os dispositivos GPU e IB Adapter

requerem buffers diferentes na memória principal.

ERAD-SP 2012

arquitetura ii duas placas n s diferentes movimenta o de dados sem gpudirect
CUDA EM AMBIENTES DE CLUSTER E CLOUDArquitetura (II) – Duas Placas – Nós DiferentesMovimentação de Dados – Sem GPUDirect

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012

arquitetura ii duas placas n s diferentes movimenta o de dados com gpudirect
CUDA EM AMBIENTES DE CLUSTER E CLOUDArquitetura (II) – Duas Placas – Nós DiferentesMovimentação de Dados – Com GPUDirect

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012

arquitetura ii duas placas n s diferentes movimenta o de dados uso de mpi
CUDA EM AMBIENTES DE CLUSTER E CLOUDArquitetura (II) – Duas Placas – Nós DiferentesMovimentação de Dados – USO DE MPI

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

  • [PROCESSO REMETENTE]: [CUDA] Memória Device  Memória Host
  • [MPI]: [PROCESSO REMETENTE]  [PROCESSO DESTINATÁRIO]
  • [PROCESSO DESTINATÁRIO]: [CUDA] Memória Host  Memória Device

ERAD-SP 2012

arquitetura ii duas placas n s diferentes mpi e cuda implementa o na ve
CUDA EM AMBIENTES DE CLUSTER E CLOUDArquitetura (II) – Duas Placas – Nós DiferentesMPI e CUDA – Implementação Naïve

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012

arquitetura ii duas placas n s diferentes mpi e cuda otimiza o
CUDA EM AMBIENTES DE CLUSTER E CLOUDArquitetura (II) – Duas Placas – Nós DiferentesMPI e CUDA – Otimização

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012

slide42
CUDA EM AMBIENTES DE CLUSTER E CLOUDArquitetura (II) – Duas Placas – Nós DiferentesMPI e CUDA – MVAPICH2-GPUhttp://nowlab.cse.ohio-state.edu/projects/mpi-gpu/index.html

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012

arquitetura ii duas placas n s diferentes mpi e cuda mvapich2 gpu
CUDA EM AMBIENTES DE CLUSTER E CLOUDArquitetura (II) – Duas Placas – Nós DiferentesMPI e CUDA – MVAPICH2-GPU

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012

arquitetura ii duas placas n s diferentes compara o de desempenho
CUDA EM AMBIENTES DE CLUSTER E CLOUDArquitetura (II) – Duas Placas – Nós DiferentesComparação de Desempenho

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012

refer ncia sugerida
CUDA EM AMBIENTES DE CLUSTER E CLOUDReferência Sugerida

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012

carma development kit http www secoqseven com
CUDA EM AMBIENTES DE CLUSTER E CLOUDCarma Development Kithttp://www.secoqseven.com

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012

virtualiza o de gpus
CUDA EM AMBIENTES DE CLUSTER E CLOUDVirtualização de GPUs

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012

virtualiza o de gpus nvidia
CUDA EM AMBIENTES DE CLUSTER E CLOUDVirtualização de GPUs NVidia

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012

gvirtus arquitetura baseada em software universidade de napoli
CUDA EM AMBIENTES DE CLUSTER E CLOUDGVirtuS – Arquitetura Baseada em SoftwareUniversidade de Napoli

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012

gvirtus arquitetura baseada em software
CUDA EM AMBIENTES DE CLUSTER E CLOUDGVirtuS – Arquitetura Baseada em Software

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012

ambiente de testes do gvirtus
CUDA EM AMBIENTES DE CLUSTER E CLOUDAmbiente de Testes do GVirtuS

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012

testes de desempenho
CUDA EM AMBIENTES DE CLUSTER E CLOUDTestes de Desempenho

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012

virtualiza o de gpus nvidia1
CUDA EM AMBIENTES DE CLUSTER E CLOUDVirtualização de GPUs NVidia

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012

placas nvidia vgx kepler
CUDA EM AMBIENTES DE CLUSTER E CLOUDPlacas Nvidia VGX ( Kepler)

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012

nvidia vgx hypervisor kepler
CUDA EM AMBIENTES DE CLUSTER E CLOUDNvidia VGX Hypervisor ( Kepler)

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012

nvidia vgx hypervisor kepler1
CUDA EM AMBIENTES DE CLUSTER E CLOUDNvidia VGX Hypervisor ( Kepler)

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012

slide57
CUDA EM AMBIENTES DE CLUSTER E CLOUD

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012

gpus heterog neas
OPORTUNIDADES DE PESQUISAGPUs HETEROGÊNEAS

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

HOST

NVIDIA

ATI

ERAD-SP 2012

frameworks de escalonamento cuda
OPORTUNIDADES DE PESQUISAFrameworks de Escalonamento CUDA

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

Escalonador

ERAD-SP 2012

esquemas sist licos intra e inter gpus
OPORTUNIDADES DE PESQUISAEsquemas Sistólicos Intra e Inter-GPUs

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012

gaas gpu as a service
OPORTUNIDADES DE PESQUISAGaaS – GPU as a Service

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012

hpaas high performance as a service
OPORTUNIDADES DE PESQUISAHPaaS – High Performance as a Service

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012

kepler cuda vgx bridge
OPORTUNIDADES DE PESQUISAKepler CUDA-VGX Bridge

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012

gpu cluster based rendering
OPORTUNIDADES DE PESQUISAGPU-Cluster based Rendering

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012

cloud graphics
OPORTUNIDADES DE PESQUISACloud Graphics

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012

google glass
OPORTUNIDADES DE PESQUISAGoogle Glass

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012

cloud gaming
OPORTUNIDADES DE PESQUISACloud Gaming

CUDA

MPI-CUDA

CLUSTER DE GPU

VIRTUALIZAÇÃO DE GPU

CUDA CLOUD

ERAD-SP 2012

slide68
OBRIGADO PELA ATENÇÃO!

Prof. Dr. Luciano Silva

[email protected]

Laboratório de Processamento Gráfico e Mídias Digitais

Laboratório de Sistemas Distribuídos

ad