'세계 첫 LPU AI칩' 韓 스타트업이 해냈다…"기존 GPU보다 성능 2.4배"[K반도체의 미래①]

서울시 서초구 서초동에 있는 하이퍼엑셀 본사 사무실. 김주영 대표(최고경영자·CEO)의 집무실에 들어서자 오른쪽 벽면을 통째로 접수한 화이트보드가 눈길을 사로잡았다. 화이트보드에는 온갖 수식들과 도형, 불규칙한 배열로 정렬된 사칙연산 기호와 도형들이 가득했다. 하이퍼엑셀 직원들은 회사 곳곳에 배치된 화이트보드에 상상의 나래를 편다. 김 대표는 "2010~2019년 마이크로소프트(MS)에서 일했던 시절을 참고해 여기저기에 뒀다"면서 "구성원들이 아이디어가 떠오르는 즉시 써보고 이를 정리할 수 있는 환경을 만들어둔 것"이라고 설명했다.

하이퍼엑셀과 김 대표는 화이트보드에 써 내려간 청사진을 올해 본격적으로 펼치려 한다. 오는 3월 자사가 세계 최초로 만든 언어처리장치(LPU)를 출시한다. 이 LPU는 네이버 클라우드에서 주로 사용될 예정이다. 이어 연말에는 LG전자와 공동 개발하는 온디바이스 칩이 나온다. 김 대표는 "2025년이 '개발의 한 해'였다면, 올해는 '출시의 한 해'"라며 "스타트업으로서는 한 해에 두 개의 칩을 내놓기가 쉽지 않은데, 의미 있는 한 해가 될 것"이라고 말했다. 이를 기반으로 매출을 늘려 2028년께 증시 상장에도 도전할 계획이다.

특히 업계는 LPU를 주목한다. 2023년 처음으로 하이퍼엑셀이 고안해 낸 AI 칩이다. LPU는 신경망처리장치(NPU)의 종류 중 하나로, 대규모언어모델(LLM)의 구동을 고도화하는 데 특화된 AI 칩이다. 이를 통해 AI의 추론능력을 높인다.

하이퍼엑셀은 지난해 11월 LPU 제품과 관련된 개발과 설계를 모두 끝낸 뒤 도면을 삼성전자 파운드리(반도체 위탁생산)에 넘겨 실물 제작을 시작했다. 여기엔 4나노(nm·1nm=10억 분의 1m) 공정이 쓰인다. 하이퍼엑셀의 LPU는 시중에 나와 있는 AI용 그래픽처리장치(GPU)보다 처리 속도는 50% 더 빠르고 가격 대비 성능도 최대 2.4배가량 우수하다는 평가를 받는다.

하이퍼엑셀은 내부구조에도 혁신을 담았다. 김 대표는 "기존 GPU, NPU는 작은 코어들이 수천개가 모여서 만들어진 아키텍처지만, LPU는 작은 코어가 아닌, 큰 코어 수십 개로 이뤄진 점이 차이점"이라며 "코어가 많으면, 데이터가 이를 여러 차례 오가는 과정에서 대역폭(시간당 전송할 수 있는 데이터의 최대 용량) 등이 반감될 수 있는데, 코어의 크기를 키우고 그 숫자를 줄여 데이터가 단번에 흘러갈 수 있도록 하는 '엔드 투 엔드' 구조로 설계돼 대역폭을 90% 가까이 지킬 수 있도록 효율화했다"고 했다.

AI 시장은 이미 지난해부터 격변기에 접어들었다는 평가를 받는다. 엔비디아가 독점적으로 GPU를 공급하고 큰 수익을 차지하던 구도가 구글의 텐서처리장치(TPU)의 등장으로 흔들릴 조짐을 보였다. TPU는 딥러닝 연산 가속을 위해 구글이 만든 주문형 반도체(ASIC)다. 김 대표는 "GPU가 블랙웰을 기준으로, 건물 하나가 쓰는 양보다 훨씬 더 많은 전력을 소모한다. 그래서 에너지 효율을 높이는 등 경제성 있는 대안을 시장이 갈구하고 있는 가운데서 TPU가 큰 주목을 받은 경향이 있다"고 말했다. 이에 비춰, 가격은 낮고 전력 소모도 최소화할 수 있도록 만든 자사의 LPU도 "충분한 가능성을 지녔다"고 강조했다.

LPU 이후에도 우리나라가 AI에서 선도적 입지를 만들어가기 위해 김 대표는 스타트업 간의 '오픈 콜라보레이션(열린 협업)'과 인재들에 대한 '사회적 포용력' 등 문화적인 변화도 동반돼야 한다고 했다. 김 대표는 "AI 시장은 빠르게 변하기 때문에 혼자서는 이를 따라잡기 어렵다"며 "미국 스타트업들은 서로 필요한 것들을 나누고 함께 협력해 제품을 개발하는 '열린 협업'이 일상화돼 있다. 그들이 시장의 속도를 따라잡는 비결"이라고 했다. 이어 김 대표는 "미국과 중국 간 무역 갈등으로 인해 AI 기업들은 지금 제품을 개발하고 나면 관련 내용을 미국 등에도 신고해야 하는 무역상의 규제도 신경 써야 하는 상황"이라며 "다양한 규제들이 많은데 줄여나간다면 앞으로 이어질 추론 시대에 우리 반도체가 더욱 주목받을 수 있을 것"이라고 말했다.