HBM2 탑재한 테슬라 P100

​

​

​

​​

오늘날의 많은 주요 어플리케이션들에서는 메모리 대역폭으로 병목현상이 발생하고 있으며 특히 HPC 분야에서는 더욱 더 크게 작용한다. 때문에 컴퓨팅 성능을 위한 메모리는 대역폭과 용량이 주요한 변수로 떠오르고 있다.

그래픽 메모리로 사용되는 GDDR5 메모리는 더 높은 속도를 내주기 어려워지고 있다. 대안으로 마이크론 (Micron) 주도의 GDDR5X와 AMD가 지난해 발표한 라데온 R9 퓨리 (Radeon R9 Fury) 시리즈에 탑재한 HBM (High Bandwidth Memroy)가 주목받고 있다.

파스칼 GP100 기반 테슬라 P100은 이전의 예상대로 HBM2 메모리를 이용한다. HBM2는 기존 그래픽 메모리 대비 대역폭은 증가하고 용량도 2배 이상, 전력 효율도 개선된다. HBM은 적층형으로 메모리를 여러 개 쌓으며 TSV (Through Silicon Vias)와 마이크로범프로 연결해 데이터를 전송한다. 하나의 8Gb HBM2 다이는 5000 TSV 홀을 제공하며 실리콘 인터포저를 이용해 메모리와 GPU 다이를 연결하고 패키지는 55mm x 55mm BGA로 구성된다.

테슬라 P100에는 4개의 4-die HBM2 스택으로 이루어져 총 16GB 메모리와 최대 720GB/s의 대역폭을 구현한다. 이는 테슬라 M40 대비 3배 이상입니다. HBM2는 ECC (Error Correcting Code)도 네이티브로 지원한다.

ECC는 HPC 분야 등 데이터 무결성이 중요한 작업에서 유용하게 사용된다. ECC bits는 non ECC 상황보다 메모리 대역폭을 감소시키는 요인으로도 작용하는데 HBM2는 네이티브로 ECC를 지원함으로써 대역폭의 영향을 최소화한다. 테슬라 P100은 GPU 레지스터 파일과 공유 메모리, L1 캐쉬와 L2 캐쉬 외에도 HBM2의 Single Error Correct Double Error Detect (SECDED) ECC 코드를 제공한다.

고속 인터페이스인 NVLink 탑재와 프로그래밍 유연성 향상

​

​

고속의 인터페이스인 NLink도 제공하며 GPU 가속 컴퓨팅에 중요한 기술 중 하나로 파스칼 GP100 GPU를 통해 구현한다. GPU와 GPU 사이 (GPU-to-GPU) 커뮤니케이션, GPU에서 시스템 메모리 접근에서 모두 성능을 향상한다. NVLink는 PCI-Expres Gen 3 (PCIe Gen 3) 대비 더 향상된 대역폭을 제공하며 NVLink에 연결된 GPU는 다른 GPU의 메모리와 로컬 메모리에 직접 접근해 효율을 높여준다.

NVLink는 엔비디아의 새로운 고속 시그널링 인터커넥트 (NVHS, NVIDIA High-Speed Signaling interconnect)를 이용하며 전송 데이터는 최대 20Gb/s, 싱글 링크는 최대 40GB/s의 양방향 대역폭, GPU와 GPU, GPU와 CPU가 연결된다. 테슬라 P100은 최대 4개의 링크로 이론상 최대 160GB/s 양방향 대역폭 구현이 가능하다.

NVLink는 IPM PowerPC와 호환되며 듀얼 NVLink 지원 CPU가 4개의 GPU 시스템과 연결 가능한데 이때 각 GPU는 120GB/s 양방향 대역폭, CPU는 40GB/s의 양방향 대역폭을 제공한다.

​

​​

CUDA 6 공유 메모리 (Unified Memory)로 확장된 파스칼 GP100은 보다 간결해진 프로그래밍과 메모리 공유가 가능해졌다. 주소 공간 확대와  CPU와 GPU 사이에서 보다 쉽게 CPU 병렬 컴퓨팅 어플리케이션 포팅과 속도를 높여준다. GP100의 GPU 어드레싱은 49bit 가상 어드레싱으로 현재의 CPU가 제공하는 48bit 가상 어드레스 공간을 제어 가능하다. 결과적으로 GP100의 통합 메모리는 어떤 하나의 프로세서 물리 메모리에 제한되지 않고 CPU와 GPU의 주소 공간을 모두 엑세스하고 이용 가능하다.

​