SKT·Arm·리벨리온, 추론 최적화 AIDC 만든다…MOU 체결

3사, AI 인프라 혁신 위한 MOU 체결Arm CPU·리벨리온 NPU 결합…성능·효율↑SKT AIDC서 실증…A.X K1 적용 가능성도

[뉴스토마토 허예지 기자] SK텔레콤(017670)이 영국 반도체 설계기업 Arm, 국내 AI반도체 스타트업 리벨리온과 인공지능데이터센터(AIDC) 사업 협력에 나섰습니다. 출시를 앞둔 리벨리온의 신경망처리장치(NPU)와 Arm의 최신 중앙처리장치(CPU)를 서버에 탑재하는 솔루션을 통해 저전력·고효율 AI 추론 인프라를 확보하고 AIDC 사업 경쟁력을 높인다는 방침입니다. 

 

SK텔레콤은 10일 Arm, 리벨리온과 차세대 AI 인프라 혁신을 위한 전략적 파트너십(MOU)을 체결했다고 발표했습니다.

 

이번 협약을 통해 SK텔레콤은 Arm이 최근 출시한 'Arm AGI CPU'와 리벨리온이 올해 3분기 출시 예정인 '리벨카드(RebelCard™)'를 서버에 탑재하기로 했습니다. 3사는 이를 기반으로 AI 추론 성능을 높이는 솔루션을 공동 개발해 SK텔레콤 AI데이터센터에서 실증할 계획입니다. SK텔레콤은 해당 서버로 자사 독자 개발 AI 파운데이션 모델인 '에이닷엑스 케이원(A.X K1)'을 운영하는 방안도 검토 중이라고 전했습니다. 

 

SK텔레콤은 지난 9일 Arm, 리벨리온과 AI 인프라 혁신을 위한 전략적 파트너십(MOU)을 체결했다고 10일 밝혔다.(사진=SK텔레콤)

 

AI 산업 새 키워드는 '추론'

 

SK텔레콤은 "AI 산업의 패러다임이 AI 모델을 만드는 '학습'에서 실제 서비스를 제공하는 '추론(Inference)'으로 변하고 있다"며 "이러한 변화가 이번 협약의 배경"이라고 전했습니다. 최근 AI 인프라의 핵심과제가 학습을 위한 막대한 연산 능력보다는 적은 전력으로 빠르고 저렴하게 AI 서비스를 제공하는 효율성에 방점이 찍혔다는 설명입니다.

 

NPU(Neural Processing Unit)는 AI 추론 작업에서 그래픽처리장치(GPU)를 대체할 새로운 대안으로 부상하고 있습니다. AI 추론의 특징은 학습에 비해 연산이 빠르고 반복적으로 처리된다는 건데요. 추론 작업에 GPU를 활용할 경우, 대형 트럭으로 택배를 배달하는 것처럼 필요 이상의 전력과 비용을 소모하게 된다는 지적입니다.

 

아울러 NPU에 CPU를 결합하는 방식도 대두되고 있습니다. 실제 AI 서비스 운영에는 AI 연산 외에도 데이터 입출력, 네트워크 통신, 메모리 관리, 작업 스케줄링 등 다양한 범용 처리가 동시에 필요한 까닭입니다. SK텔레콤은 "CPU가 시스템의 관제탑 역할을 하며 데이터 흐름과 시스템 운영을 총괄하고, NPU가 AI 추론 연산을 전담하는 '이종 컴퓨팅(Heterogeneous Computing)' 구조가 시스템의 성능과 효율을 높인다"고 설명했습니다. 

 

'Arm AGI CPU'에 리벨리온 '리벨카드 NPU' 결합…성능·효율↑

 

이번 협약은 이처럼 NPU와 CPU를 결합해 전력 효율을 높이고 운영 비용을 줄이기 위한 방침으로 풀이됩니다. Arm AGI CPU와 리벨카드 NPU는 모두 AI 추론 서비스에 특화된 칩입니다. 두 칩을 한 서버 안에 탑재할 경우, CPU가 데이터 처리와 시스템 운영 등 범용 연산을 담당하고, NPU가 AI 추론 연산을 전담하게 됩니다. SK텔레콤은 이러한 방식에 대해 "대규모 AI 서비스를 운영하는 데이터센터에서 효율적인 서버 아키텍처"라고 부연했습니다. 

 

앞서 Arm과 리벨리온은 지난달 'Arm 에브리웨어' 행사에서 두 칩을 결합해 오픈 AI의 언어모델 'GPT OSS 120B' 기반의 에이전틱 AI 서비스를 실시간으로 시연, 대규모 데이터센터에서의 상용화 가능성을 보여준 바 있습니다. 

 

SKT·Arm·리벨리온 "AI추론 특화 인프라 선례 만들 것"

 

이재신 SK텔레콤 AI 사업개발 담당은 "추론에 최적화한 인프라와 독자 파운데이션 모델 A.X K1을 결합한 풀 패키지를 제공함으로써 AI 데이터센터 경쟁력을 더욱 강화해 나가겠다"고 말했습니다.

 

에디 라미레즈 Arm 클라우드 AI 사업부 GTM 부사장도 "AI 추론의 급속한 성장은 대규모 배포에 최적화된 새로운 데이터센터 인프라 수요를 촉진하고 있다"며 "SK텔레콤, 리벨리온과 같은 파트너는 Arm AGI CPU를 구축하고 AI 추론 인프라를 현대화하는 데 있어 중요한 역할을 하고 있다"고 했습니다. 

 

리벨리온 오진욱 최고 기술 관리자(CTO)는 "리벨리온이 리벨카드와 풀스택 소프트웨어 역량을 바탕으로 차세대 AI 데이터센터 사업의 핵심 축을 담당하게 됐다"며 "AI 특화 인프라 구축을 위해 각 분야 전문가가 한 팀으로 뭉친 이번 협력은 업계에서 유의미한 선례가 될 것"이라고 강조했습니다.

 

허예지 기자 [e-mail]

이 기사는 뉴스토마토 보도준칙 및 윤리강령에 따라 김충범 테크지식산업부장이 최종 확인·수정했습니다.