경제타임스 여원동 기자 |  인공지능(AI) 산업의 패러다임이 모델 학습에서 실제 서비스 구현인 '추론'으로 이동하면서, 전력 효율과 운영 비용을 획기적으로 낮춘 차세대 인프라 경쟁이 가속화되고 있다.

SK텔레콤이 글로벌 프로세서 설계 기업인 Arm, AI 반도체 스타트업 리벨리온과 손잡고 이종 컴퓨팅 기반의 AI 서버 솔루션 개발에 착수하며 AI 데이터센터(DC) 시장 공략에 속도를 낸다.

영국 케임브리지에 본사를 둔 글로벌 반도체 설계 기업 Arm은 CPU 아키텍처를 직접 생산하지 않고 라이선스 형태로 제공하는 비즈니스 모델을 기반으로 스마트폰, 서버, IoT 등 다양한 분야에서 사실상 표준 플랫폼으로 자리잡았다. 저전력·고효율 설계 경쟁력을 앞세워 모바일 시장을 장악한 데 이어, 최근에는 데이터센터와 자동차용 반도체 시장으로 영향력을 빠르게 확대하고 있다.

리벨리온은 인공지능(AI) 연산에 특화된 데이터센터용 반도체를 개발하는 국내 팹리스 스타트업으로, 금융·클라우드 환경에 최적화된 AI 추론용 칩을 앞세워 글로벌 시장 공략에 나서고 있다. 자체 설계한 NPU 기반 칩을 통해 고성능·저전력 AI 연산을 구현하는 데 강점을 보이며, 국내외 빅테크 및 금융권과의 협업을 확대하며 ‘K-팹리스’ 대표 주자로 부상하고 있다.

■ 'CPU+NPU' 이종 컴퓨팅으로 AI 가성비 격차 벌린다

SK텔레콤은 Arm, 리벨리온과 함께 AI 추론 성능을 최적화한 서버 솔루션을 공동 개발하고 이를 자사 AI 데이터센터에 실증하기 위한 업무협약(MOU)을 체결했다고 10일 밝혔다. 이번 협력의 핵심은 Arm의 'AGI CPU(Artificial General Intelligence Central Processing Unit)'와 리벨리온의 차세대 NPU(Neural Processing Unit, 신경망처리장치)인 '리벨카드(RebelCard™)'를 하나의 서버에 결합하는 '이종 컴퓨팅(Heterogeneous Computing)' 구조다.

AGI CPU는 범용 인공지능(AGI·Artificial General Intelligence) 구현을 목표로 설계된 차세대 중앙처리장치를 지칭하는 개념적 용어로, 기존 CPU 대비 고도화된 학습·추론 기능을 통합해 인간 수준의 범용 지능 연산을 처리하는 차세대 컴퓨팅 아키텍처를 의미한다. 다만 아직은 산업 표준으로 정립된 공식 용어라기보다는 연구·개념 단계에서 사용되는 표현에 가깝다.

NPU는 인공지능(AI) 연산에 특화된 반도체로, 딥러닝·머신러닝 등 신경망 기반 알고리즘을 고속·저전력으로 처리하는 것이 특징이다. CPU·GPU 대비 병렬 연산 효율이 뛰어나 스마트폰, 자율주행차, 데이터센터 등 다양한 분야에서 핵심 AI 인프라로 활용되고 있다.

기존 GPU(그래픽처리장치) 중심의 서버는 막대한 연산 능력을 자랑하지만, 365일 상시 가동되는 추론 작업에서는 과도한 전력 소모와 높은 도입 비용이 걸림돌로 지적되어 왔다. 반면 이번에 개발되는 솔루션은 시스템 운영과 데이터 제어를 전담하는 CPU와 AI 연산에 특화된 NPU가 각자의 역할을 분담함으로써, '대형 트럭 대신 경형 전기차'를 활용하는 것과 같은 고효율 배송 시스템을 구축하는 것이 특징이다.

■ 글로벌 AI 인프라 선점을 위한 '원팀' 전략

협력에 참여한 Arm은 데이터센터용으로 직접 설계한 'AGI CPU'를 통해 AI 서비스 최적화를 지원한다. 여기에 올해 3분기 출시 예정인 리벨리온의 리벨카드가 결합되어 대규모 언어모델(LLM) 추론 시 발생하는 병목 현상을 해소한다. 3사는 이미 지난 3월, 1200억 개의 파라미터를 가진 오픈 AI 기반 모델을 통해 실시간 에이전틱 AI 서비스를 시연하며 상용화 가능성을 입증한 바 있다.

SK텔레콤은 단순히 하드웨어 결합에 그치지 않고, 해당 서버 인프라에 자사의 독자 파운데이션 모델인 '에이닷엑스 케이원(A.X K1)'을 이식하는 방안을 검토 중이다. 이는 AI 반도체부터 서버 아키텍처, 그리고 모델 서비스까지 이어지는 이른바 'AI 풀스택' 경쟁력을 확보하겠다는 전략으로 풀이된다.

■ AI 데이터센터의 새로운 표준 제시

이번 협력은 전력난과 고비용 구조에 직면한 글로벌 데이터센터 업계에 새로운 대안을 제시할 전망이다. 저전력·고효율 인프라는 데이터센터 운영사의 수익성과 직결되는 만큼, 글로벌 시장에서의 기술 표준 선점 효과도 기대된다.

이재신 SKT AI 사업개발 담당은 "추론 최적화 인프라와 독자 모델을 결합해 AI DC 경쟁력을 강화할 것"이라고 강조했다. 리벨리온 오진욱 CTO 역시 이번 협력이 차세대 AI 데이터센터를 지탱하는 핵심 축이 될 것이라며 자신감을 드러냈다.

AI 인프라의 무게중심이 효율성으로 급격히 기울고 있는 가운데, 국내 통신 공룡과 글로벌 설계 강자, 신흥 반도체 강자의 결합이 가져올 시장 판도 변화에 업계의 이목이 쏠리고 있다.