2024년 IDC 아시아/태평양 지역 AI 성숙도 연구 - 한국편, 인텔 2024년 IDC 아시아/태평양 지역 AI 성숙도 리서치 발표

인텔이 ‘2024년 IDC 아시아/태평양 지역 AI 성숙도 리서치’를 발표했다.  

이번 연구는 인텔이 IDC에 의뢰해 실시되었으며, 한국을 포함한 아태지역 8개국(호주, 인도, 인도네시아, 일본, 한국, 말레이시아, 싱가포르, 대만)의 AI 성숙도와 관련한 조사 분석 내용을 담고 있다. 이번 연구조사에 따르면 아태지역 전반적인 AI 성숙도는 중간 단계이며, 한국은 기업, 정부, 사회경제 3가지 측면에서 모두 평균 이상으로 평가되었다. 

이번 연구에 대한 주요 내용 요약은 다음과 같다.

AI 환경 

AI 기술 및 도입의 빠른 발전

아시아/태평양 지역 조직의 AI 지출은 2022년부터 2027년까지 28.9%의 연평균 성장률(CAGR)로 성장하여 2027년에는 907억 달러에 도달할 예정(출처: IDC퓨처스케이프  전세계 AI 및 자동화 2024 예측 – 아태지역(일본 제외) 도입 및 초기 생성 AI 도입 예측, 2023년 10월)

생성형 AI(GenAI)가 급부상하면서 많은 조직들이 2023년부터 생산성 향상과 비용 절감을 목표로 하는 내부 중심의 AI 이니셔티브를 위해 AI를 도입하기 시작

2024년에는 신제품 도입을 가속화하고 AI를 활용하여 새로운 수익을 창출하는 등 보다 광범위하고 외부에 초점을 맞춘 AI 사용 사례가 늘어날 것으로 예상

데이터 레이크 하우스(data lake house), 데이터 패브릭(data fabric)과 같은 최신 데이터 아키텍처와 더욱 성능이 뛰어나고 효율적인 컴퓨팅 리소스를 통해 기업들은 이전에는 불가능하다고 여겨졌던 새로운 방안 모색 중

생성형 AI 그 이상의 AI

생성형 AI 열풍 속에서도 아태지역의 AI 예산 중 19%만이 생성형 AI에 할당되며, 81%는 예측형 AI와 해석형 AI에 할당

생성형 AI는 AI의 명확한 영향력을 보여준다. 예측형, 해석형, 생성형 AI는 모두 중요하며 서로 분리된 영역으로 간주해서는 안된다.

AI를 하나의 연속체로서 생각해야 하며, 미래의 AI 모델은 어느 한 가지가 아닌 여러 AI 범주에 걸쳐 있어야한다.

엣지 단에서의 AI 부상 - 하이브리드 AI 시대

AI를 실시간으로 구현하는 것은 매우 중요하지만, 중앙 집중적인 인프라와 관련된 지연 시간 문제로 인해 제대로 구현되지 않는 사례가 많다. 엣지 컴퓨팅으로의 전환은 AI를 모든 곳에서 구현할 수 있도록 해줄 것.

설문조사에 참여한 아시아/태평양 지역 조직의 75% 이상이 2024년 엣지에 더 많은 비용을 지출할 것으로 예상하고 있으며, 약 50%는 엣지가 전체 IT 지출의 16% 이상을 차지할 것으로 추정

하이브리드 AI 시대는 모델 학습과 추론의 다양한 요구사항을 충족하기 위해 데이터센터부터 클라우드, 클라이언트부터 엣지까지의 데이터 및 컴퓨팅을 배포 및 관리할 수 있는 기술 인프라가 필요.

조직의 기술 스택은 유연하고 확장 가능해야 하며, 이기종 컴퓨팅 환경과 개방형 생태계가 핵심이 될 것 

AI 현황: 아시아/태평양 지역의 AI 성숙도 수준

아시아/태평양 지역의 AI 성숙도

아태지역 전반적으로 AI를 발전시키기 위한 노력 중. 기업, 정부, 사회경제적 준비 상태 요인이라는 세 가지 주요 측면에서 평가 결과, 대부분의 아시아/태평양 지역 시장은 여전히 전반적으로 중간 정도의 AI 성숙도를 보여줌

인도네시아, 말레이시아가 1단계(탐색 단계), 인도, 대만이 2단계(AI 실무), 호주, 일본, 한국이 3단계(AI 혁신), 싱가포르가 4단계(리더)로 평가

한국: 한국은 현재 2024년 IDC 아시아/태평양 지역 AI 성숙도 연구에서 AI혁신가(3단계)로 평가. 이 성숙도는 잘 구축된 기술 인프라와 데이터 관리 전략을 통해 AI 이니셔티브를 계획하고 관리하며, 새로운 사용 사례, 특히 산업의 사용 사례가 나타나는 단계임. 

기업의 AI 도입 관련 주요 과제

설문조사에 참여한 아시아/태평양 지역의 대규모 조직 중 82%가 AI/ML의 기능을 활용하고 있다고 답했지만, AI가 조직 경쟁력의 핵심이 되도록 실제로 AI를 대규모로 통합하고 있는 조직은 8%에 불과

AI 프로젝트 실패 원인으로 1) 사용 사례 문제 – 사용사례가 적절하지 않거나 너무 복잡하고, 2) 인프라 및 지원 부족 문제 - 채택한 기술이 불충분하거나 성능이 떨어짐 3) 계속 진화하는 법규 준수 문제 4) 불분명한 목표 5) 공급업체 지원 부족을 들 수 있다.

AI를 성공적으로 도입하려면 조직은 먼저 해결하고자 하는 비즈니스 과제나 목표를 설정한 후, 이를 효율적이고 비용 효과적으로 달성할 수 있는 방법으로 AI를 활용해야 한다.

모든 AI 워크로드에 GPU가 필요하다는 일반적인 생각과는 달리, 실제로는 일부 AI 기반 작업을 수행하는 데 더 효율적인 대안으로 범용 CPU를 사용하는 경우가 많으며, 이는 비용과 에너지 소비를 줄여 지속가능성에 기여할 수 있다.

대형 언어 모델을 학습해야 하는 경우, 인텔의 가우디3(Gaudi 3)와 같은 전용 AI 가속기는 비용 우위를 제공하여 기존 GPU의 대안이 될 수 있다.

하지만 CPU와 GPU의 경쟁으로 볼 수는 없으며 AI를 배포하는데 있어 다양한 사용 사례, 워크로드, 전력 요구 사항 등을 고려한 종합적인 접근 방식이 필요하다. AI 애플리케이션마다 서로 다른 컴퓨팅 구성을 필요로 하며, CPU, GPU, FPGA(Field Programmable Gate Arrays), 가속기 및 소프트웨어를 실행할 수 있는 다양한 아키텍처와 하드웨어의 조합으로 구성될 수 있다. 

한국의 AI 현황 및 미래 

한국은 2024년 IDC 아시아/태평양 지역 AI 성숙도 연구에서 AI 혁신가(3단계)로, 기업, 정부, 사회경제의 세 가지 측면 모두에서 아시아/태평양 지역 평균보다 높은 점수를 받음

한국의 AI 인프라 프로비저닝 투자 규모는 3억 8,632만 달러로, 광범위한 AI 개발을 지원하고 있음. 이러한 대규모 투자는 고사양 서버 및 전용 AI 처리 장치와 같은 컴퓨팅 리소스 향상에 사용. 한국은 고객 서비스 혁신을 위한 AI 사용에 우선순위를 두고 있으며, 특히 고객 서비스 상담원 보완에 중점을 두는 것으로 나타남.

산업별 AI 지출

첨단 제조 분야, 특히 반도체 부문에서 정밀 제조 자동화 지원을 위한 대규모 AI 투자와 품질 관리를 위한 ML 사용으로 가장 많이 투자하고 있음

BFSI 부문에서는 복잡한 재무 분석에 AI를 사용하는 고사양 인프라를 활용하고 위험 관리를 강화하며 맞춤형 고객 서비스를 제공.

AI 지출은 정부, 유통, 통신, 의료, 교육 분야에서도 상당한데, 해당 분야에서는 자동화를 통해 효율성을 높이고 특히 디지털 비서와 서비스 개인화를 통해 고객 서비스를 개선하는 데 중점을 두는 경향이 나타남

한국의 전체 AI 지출은 2023년부터 CAGR 21.6%로 증가하여 2027년에는 41억 달러에 이를 것으로 전망됨. AI 인프라 투자는 2023년부터 CAGR 12.8%로 크게 성장하여 2027년 말까지 10억 5천8백만 달러에 이를 것으로 전망 

시장의 AI 성숙도를 높이기 위한 권장 사항 

기업 측면에서 AI 성숙도 높이는 방법

하이브리드 AI 대비: 기술 인프라는 데이터센터에서 클라우드까지, 클라이언트에서 엣지까지 모델 학습 및 추론의 다양한 요구 사항을 처리하기 위해 AI를 효과적으로 배포할 수 있어야 함

유연하고 확장 가능한 기술 기반 구축: 조직은 개방성, 선택권, 신뢰를 증진하며 상호운용성, 적응성, 지속가능성을 지원하는 기술 기반 및 문화를 개발해야 함. 이를 통해 다양한 소스의 기술 스택을 채택하고 AI 배포의 복잡성과 시간을 줄일 수 있다.

정부 측면에서 AI 성숙도 높이는 방법

유연한 접근방식 채택: AI윤리의 기본 원칙을 기반으로 유연한 접근 방식을 채택하여 혁신과 규제의 균형 있게 조율하는 것이 시장의 AI 경쟁력을 결정짓는 핵심 요소가 될 것

사회경제적 측면에서 AI 성숙도 높이는 방법

모든 사람의 AI 이해도 높이기: 로우코드/노코드 AI 플랫폼 제공으로 인해 비전문가도 AI를 이해하고 활용할 수 있어야 한다.

최종 권장 사항

개방형 생태계는 AI를 성공적으로 도입하기에 필수적이다. 기술 인프라 측면뿐만 아니라 정부 및 사회경제적 측면에서도 마찬가지이다.

AI는 모든 문제를 해결해 줄 수 없으며, AI가 계속 발전함에 따라 변화하는 워크로드 요구사항에 맞게 컴퓨팅 플랫폼이 개방적이고 유연하며 확장 가능한 것이 그 어느 때보다 중요해졌다. 폐쇄적인 에코시스템은 규모를 제한하므로 오픈 소싱 AI로 가치를 창출하는 것이 중요하다.

정부와 사회경제적 관점에서, 정부, 기업, 시민들 간의 소통을 통해 정책을 투명하게 하고, 아이디어를 공유하며, 협업을 장려하고, 자원을 공유하는 것이 모든 시장에서 AI가 성공하는데 있어 핵심이 될 것이다.