다키클라우드, ETRI에 NPU 기반 AI 플랫폼 공급… 옵스나우와 협력

엔터프라이즈 AI 인프라·플랫폼 기업 다키클라우드(Thaki Cloud)는 클라우드 운영 전문 기업 옵스나우(OpsNow)와 협력해 한국전자통신연구원(ETRI)의 NPU(신경망처리장치) 기반 AI 연구 환경에 자사 프라이빗 클라우드 플랫폼 ‘Aegis’와 AI 모델 서빙·추론 플랫폼 ‘Metis’를 공급했다고 밝혔다.

이번 프로젝트는 NPU 기반 컴퓨팅 인프라에 클라우드 운영 환경과 AI 모델 실행 플랫폼을 결합해 연구 목적에 맞게 가속기 자원과 추론 환경을 활용할 수 있도록 지원하는 데 초점을 맞췄다. 다키클라우드는 자체 소프트웨어 플랫폼을 적용하고, 옵스나우와 협력해 프로젝트 수행에 필요한 기술 및 운영 영역을 연계했다.

해당 연구 환경에는 AMD EPYC 프로세서와 리벨리온 ATOM-Max NPU 기반 서버가 활용됐다. 다키클라우드는 Aegis를 통해 기반 인프라의 구성·관리 환경을 제공하고, Metis를 통해 NPU 기반 모델 서빙 및 추론 워크로드를 지원하는 플랫폼 기능을 적용했다. API 기반 연동과 자원 상태 확인 등 연구 환경의 운영 요구사항도 고려했다.

NPU를 포함한 AI 가속기를 연구에 활용하기 위해서는 하드웨어 도입만으로 충분하지 않다. 서버와 네트워크, 가속기 자원을 관리하는 인프라 계층과 해당 자원에서 모델을 배포하고 추론 작업을 실행하는 AI 플랫폼 계층이 함께 구성돼야 한다. 특히 연구 환경에서는 사용 목적과 시스템 구성에 맞는 연동·관리 방식이 중요하다.

이번 공급은 다키클라우드의 프라이빗 클라우드 인프라 기술과 AI 모델 서빙·추론 플랫폼을 NPU 기반 연구 환경에 함께 적용한 사례라는 점에서 의미가 있다. 다키클라우드는 옵스나우와의 협력을 바탕으로 공공 연구기관과 기업의 AI 인프라 구축·운영 수요에 대응해 나갈 계획이다.

다키클라우드 강소륜 대표는 “NPU와 같은 AI 가속기를 연구 현장에서 활용하려면 장비 확보와 함께 자원 운영 및 모델 실행 환경을 갖추는 것이 중요하다”며 “다키클라우드는 Aegis와 Metis를 기반으로 다양한 AI 인프라 환경에 필요한 플랫폼 기술을 발전시켜 나가겠다”고 말했다.