삼성전자 야심작 '마하-1', 게임체인저 될 수 있을까

[https://youtu.be/GOHOvEj1fis]

※ 이 내용은 3월 11일(화) 오후 4시 연합뉴스경제TV의 '경제ON' 프로그램에서 방영된 콘텐츠입니다. (출연 : 김경림 연합인포맥스 기자, 진행 : 이민재)

[앵커멘트]

지난주 삼성전자와 네이버가 공동으로 개발한 인공지능(AI) 반도체, 마하-1이 공개되었습니다. 최근의 AI 트렌드에서 이들의 도전이 어떤 영향을 줄지, 기업금융부 김경림 기자가 취재했습니다.

#자막. '마하-1'…하드웨어·소프트웨어 강자 모였다

그간 삼성전자는 메모리 반도체에 특화한 것으로 알려졌죠. 상대적으로 설계 등 소프트웨어적인 부분은 약해졌다고 평가를 받았습니다. 그래서 네이버와 손을 잡은 것인데요. 네이버의 AI관련 파트와 삼성전자의 시스템LSI에서 손을 잡고 '더 효율적인 AI칩'을 선보인 겁니다.

일단 ＇그래서 언제 만날 수 있냐＇부터 말씀드리고 시작하면요, 양사가 목표하는 건 올해 말 정도입니다.

삼성전자에서는 경계현 디바이스솔루션(DS) 부문 사장이, 네이버에서는 최수연 대표이사가 각각 주주총회에 나와 공표했는데요. 주주들을 상대로 공식적인 발표를 했다는 것은 그만큼 양사가 '마하-1'에 대해 자신감도 있고, 어느 정도 상용화도 마무리된 것으로 봐도된다고 해석할 수 있을 것으로 보입니다.

[앵커 멘트] 각 분야에서 비교 우위가 있는 기업들끼리 손을 잡았다. 어디서는 '엔비디아 아성에 도전한다'라는 표현을 쓰기도 하는데요. 마하-1이 엔비디아 GPU와 다른 점은 뭔가요?

#자막. GPU 시스템의 한계 '병목현상'…전력 효율도 고민

기존 AI 가속기, 연산장치인 그래픽칩(GPU)과 메모리 사이 정보를 교환하는 구조로 만드는 방식은 '병목 현상'이 문제가 됐는데요.

이 병목현상. 차선 합쳐지는 구간에서 생기는 병목현상과도 비슷한데요. '메모리칩'과 'AI칩' 사이에 데이터를 오갈 수 있도록 '정보출입구' 수를 대폭 늘린 것이 HBM입니다. 현재 연산장치와 HBM 사이에 1천개가 넘는 '도로'가 있는데, 데이터 처리량이 늘어날수록 당연히 이 길은 더 막히겠죠?

차가 막힐 때 연비 어떻게 되나요. 떨어집니다. 그래서 현재 GPU와 HBM을 연결하는 방식의 AI칩은 전력 효율성에 대한 고민이 계속되고 있습니다.

엔비디아가 새롭게 발표한 AI칩 'B200'의 소비 전력은 1천와트(W)가 넘는다고 합니다. 이게 어느 정도면, 스탠드형 에어컨 소비전력에 육박한다고 합니다. AI센터에 GPU가 수십만대 들어간다는 점을 고려하면, 그야말로 전기 먹는 하마죠.

[앵커멘트] 정리하자면, AI 수요는 가속되고 데이터도 폭증하는데. 병목현상은 불가피하고 전력소비량도 문제가 된다는 거 같습니다. 그럼 삼성전자와 네이버가 개발한 '마하-1' 같은 AI칩은 기존 제품과 어떻게 다른가요.

#자막. '경량화·효율화에 집중'…발열·전력 문제 해결

마하-1은, 개발자가 설계를 변경할 수 있는 '프로그래머블반도체(FPGA)'입니다. 즉, 개발자가 용도에 맞게 회로를 다시 새겨넣을 수 있어 여타 그래픽처리유닛(GPU) 등과 달리 유연성이 있으며 응용 분야도 넓은 것으로 평가받는다고 하는데요. 말하자면 도로의 병목현상을 해결하기 위해 고가를 세운다거나, 지하도로를 뚫는 등의 노력을 하잖아요. 이와 비슷하다고 보시면됩니다.

예컨대 지하도로를 만들면 위아래로 차가 오갈 수 있으니까 통행량은 늘어나고 동시에 각 자동차의 연비 소요는 줄어들지 않습니까. 그것처럼 같은 데이터를 옮길 때 기존보다 더 적은 전력을 쓰거나, 같은 전력을 쓰더라도 훨씬 더 많은 데이터를 효율적으로 옮기게 됩니다.

#자막. 파라미터 제거·알고리즘 최적화로 '경량화'

마하-1의 스펙은 사실 지난해 말에 살짝 공개된 적이 있습니다. 당시 삼성전자와 네이버는 '2023 AI 반도체 미래기술 컨퍼런스'에 공동으로 부스를 꾸리고 협업해서 개발 중인 AI반도체에 대해 설명하기도 했습니다. 이때 발표된 내용을 토대로 설명드리자면요.

네이버에서 강조한 부분은 '불필요한 파라미터' 제거와 '경량화 알고리즘 최적화'입니다. 말이 좀 전문적일 수 있는데요.

필요하지 않은 파라미터, 파라미터가 뭔지부터 설명드려야할 거 같습니다. 파라미터는 AI 반도체 안에 저장되어 있는 '매개변수'라고 할 수 있는데요. 이는 입력된 값을 원하는 출력값으로 가공하는 역할을 합니다. AI의 성능이 좋아질수록 이 파라미터수도 늘어날 수 밖에 없는 구조죠. 앞서 말씀드린 '병목 현상' 역시, 메모리에서 GPU로 이동하는 길은 정해져있는데 이렇게 파라미터가 증가함으로써 막히는 거라고 볼 수 있습니다.

그럼 양사는 어떤 방법을 썼을까요. '불필요한 파라미터'를 제거하기 가합니다. 이걸 가지치기라고도 부른다고 합니다. 파라미터가 단수의 데이터나 알로리즘이 아니라 여러개로 묶여 있는 형태이기 때문에, 이 중 필요한 것만 뽑아내는 기술이 이들이 선택한 방식입니다. 여기에 안정성을 더하기 위해 파라미터에 알고리즘을 더해 일정한 코드로 변환했습니다.

#자막Q. 삼성전자는 왜 AI칩을 따로 개발했을까

[앵커멘트] 사실 AI 생태계라고 하면 엔비디아 주도로 이뤄지고 있다고 해도 과언이 아닌데요. 삼성전자가 AI칩을 따로 개발해야만 했던 배경이 있는 겁니까.

#자막. 메모리 위주의 사업 구조에서 다변화…중소 팹리스와 손잡고 '윈윈'

이번 베팅은 향후 삼성전자 반도체 사업의 성패를 가르는 게임 체인저라고도 평가받습니다.

현재 삼성전자는 고대역폭메모리(HBM) 등 메모리 반도체에서 SK하이닉스에 밀리고, 파운드리에서는 대만 TSMC를 추격하는 상황입니다. 하지만, 아직 AI칩 분야에서 '1위'로 불리는 곳은 찾기 어렵습니다. 현재 독주 체제인 엔비디아의 경우 GPU 가격이 너무 비싼데다, AI 추론에는 '과한 스펙'이라는 평가를 받습니다.

삼성전자가 생각해낸 묘안은 설계 분야 중소 강자들과 손을 잡는다는 전략입니다.

국내 AI반도체 스타트업인 리벨리온과는 아톰(ATOM)이라는 칩을 개발했으며, 올해 상반기부터 삼성전자 5나노 공정을 통해 양산할 계획입니다. 지난해부터는 차세대 AI 칩인 리벨(REBEL) 개발도 진행 중입니다. 리벨리온은 모건스탠리 퀀트 개발자 출신인 박성현 대표와 공동창업자 4명이 2020년 설립한 AI칩 디자인하우스로 장외시장에서 1조원의 가치를 인정받고 있습니다. 국내에서는 KT를 비롯해 IMM인베스트먼트, 신한벤처투자, 미래에셋벤처투자 등이 투자했습니다.

'반도체 설계의 전설' 짐 켈러가 이끄는 캐나다 스타트업 텐스토렌트와도 별도의 프로젝트를 진행 중입니다. 앞서 텐스토렌트는 차세대 AI칩인 '퀘이사' 생산을 삼성전자 텍사스 테일러 파운드리에서 4나노 공정으로 생산한다고 밝힌 바 있습니다.

[앵커 멘트] 제일 중요한 건, 이게 개발에 그치지 않고 실제 매출에 얼마나 기여할 수 있을지 같은데요. 최근 고전하고 있는 삼성전자 반도체부문 실적에 얼마나 기여할 수 있을 것으로 보입니까?

#자막. 연말까지 네이버에 1조원 규모 공급…해외 빅테크와도 논의

양사는 연내 개발 및 양산을 확정한 뒤, 연말께 네이버 데이터센터인 '세종' 등에 납품할 예정입니다. 납품 규모는 15만~20만개로, 개당 500만원 수준으로 논의 중입니다. 엔비디아 GPU의 10분의 1 가격이지만, 삼성전자는 '양'으로 승부수를 띄웠습니다. 예상대로 수주가 진행되면 총 1조원 규모의 매출이 발생할 것으로 기대되고 있습니다.

(연합인포맥스 기업금융부 김경림 기자)

※본 콘텐츠는 연합뉴스경제TV 취재파일 코너에서 다룬 영상뉴스 내용입니다.