② 소프트웨어 분야의 돌파구, GPU 그룹 연산 기술

중국 출장 이야기

■생성형 AI 개발에 드는 대규모 비용과 시간을 절약하기 위한 방안인 “GPU 그룹 연산”

지난 <7/6, 중국 출장 이야기- ①중국이 준비 중인 미국 첨단 반도체 제재의 돌파구>에서 언급했듯 중국이 하드웨어 측면에서 Chiplet 기술에 집중하고 있다면, 소프트웨어 분야에서는 GPU 그룹 연산 (CPU Cluster Processing) 시스템으로 상황을 극복 중이다.


생성형 AI 개발의 기본 방향성은 거대한 데이터를 “학습”시키고, 이를 바탕으로 “추론”하는 능력을 길러, 이용자의 요구에 맞는 결과를 만들어내는 것이다.
여기서 난제는 거대한 데이터를 학습시키는데 (=대규모 연산 작업을 하는데) 고성능의 컴퓨팅 자원과 자금이 필요하다는 점이다.
GPT-3를 예를 들면 총 1,750억개에 달하는 파라미터 (매개변수)를 학습시키는 과정에서 약 1만 개 이상의 A100을 사용했고, 최근 A100 가격을 생각하면 AI칩을 구하는 데만 최소 1억 달러 (한화 약 1,300억원) 이상이 필요하다.
학습 기간도 약 3개월 이상으로 추정된다.