GPU 기반 양자 화학으로 반도체 설계 혁신 가속, 엔비디아 반도체 설계 위한 가속 양자 화학용 cuEST 출시

엔비디아(www.nvidia.co.kr)가 미국 새너제이에서 열린 세계 최대 AI·가속 컴퓨팅 콘퍼런스인 ‘엔비디아(NVIDIA) GTC 2026’에서 엔비디아 cuEST를 출시했다. 이는 전자 구조 계산을 GPU로 전환하는 새로운 엔비디아 CUDA-X 라이브러리로, 초기 도입 기업으로는 어플라이드 머티어리얼즈(Applied Materials), 삼성(Samsung), 시높시스(Synopsys), TSMC가 포함된다. 

최첨단 칩은 이제 500억 개 이상의 트랜지스터를 포함하고 있다. 이를 설계하기 위해서는 원자 수준에서의 근본적인 물리 문제에 대한 해답이 필요하다. 즉, 전자가 어떻게 결합하는지, 어떻게 이동하는지, 그리고 몇 개의 원자 두께에 불과한 박막을 가로질러 어떻게 상호작용하는지를 이해해야 한다.

엔비디아 산업 컴퓨팅 엔지니어링 총괄 책임자인 팀 코스타(Tim Costa)는 “반도체 스케일링이 소재의 물리적 한계에 도달함에 따라, 업계는 차세대 칩 설계의 양자역학을 시뮬레이션하기 위해 컴퓨팅 성능의 대폭적인 향상을 요구하고 있다. 엔비디아 cuEST를 통해 업계 선도 기업들은 양자 병목을 넘어 고정밀 화학 모델링을 프로덕션에 직접 적용함으로써 반도체 혁신을 가속화할 수 있을 것”이라고 말했다. 

산업 영향

l  어플라이드 머티어리얼즈: 어플라이드 머티어리얼즈는 cuEST로 가속된 밀도 범함수 이론(DFT)을 사용해 복잡한 구조를 모델링하고, 물질 특성을 예측하며, 반응 경로를 연구한다.

l  삼성: 삼성은 이미 GPU에서 가속되고 있는 자사의 내부 파이프라인에 cuEST를 통합해, 주요 양자 화학 워크로드에 대해 엔드투엔드 기준 최대 5배의 추가 속도 향상을 제공하고 있다.

l  시높시스: cuEST와 퀀텀ATK(QuantumATK)로 구동되는 시높시스는 가우시안(Gaussian) 기반 DFT를 포함하도록 기능을 확장했으며, 반도체 워크플로우에서 시뮬레이션을 최대 30배까지 가속화하고 있다.

l  TSMC: TSMC는 cuEST의 가속된 양자 화학을 활용해 차세대 실리콘 설계를 위한 공정을 발전시키고 있다. 

연구실에서 생산 현장까지

원자 수준 모델링에서 가장 일반적으로 사용되는 방법은 밀도범함수이론(이하 DFT)이다. DFT는 정확도와 확장성 간의 균형이 뛰어나지만, 높은 계산 비용으로 인해 산업 전반에서의 광범위한 활용이 제한되면서 대부분의 적용이 연구 단계에 머물러 왔다. 엔비디아는 cuEST를 통해 고정밀 양자 화학을 산업 규모와 실제 프로덕션 워크플로우에서 구현할 수 있도록 한다. 

역사적으로 업계는 이러한 시뮬레이션을 실행하기 위해 CPU 클러스터에 의존해 왔으며, 게이트 유전체와 인터커넥트 금속을 포함한 후보 물질을 한 번에 하나의 배치씩 수 시간 또는 수일에 걸쳐 평가해 왔다. 

cuEST는 중첩, 운동 에너지, 핵 인력, 쿨롱(Coulomb)과 교환-상관(exchange-correlation)을 포함한 가우시안 기반 DFT 계산의 핵심 행렬을 GPU가 가속할 수 있도록 최적화된 루틴을 제공한다. 또한 표준 일반화 기울기 근사부터 하이브리드 함수까지 다양한 함수 근사를 지원해, 엔지니어가 계산 비용과 정확도 간의 균형을 맞출 수 있도록 한다. 

엔비디아의 cuEST 목표는 고정밀 물질 모델링을 연구실에서 생산 현장으로 이동시키는 것이다.

GTC에서 엔비디아 데모 부스와 시높시스 부스에서 cuEST에 대해 자세히 알아볼 수 있다. ‘차세대 발견: 과학을 위한 에이전틱 AI, AI 기반 시뮬레이션 및 GPU 가속 화학’ GTC 세션에서는 보다 자세한 내용을 다뤘다.