AI 모델의 덩치가 커지면서 이를 뒷받침할 데이터센터 구축 방식도 급격히 바뀌고 있다. 기존 건물 내부 서버실을 대형화하는 방식으로는 고성능 GPU가 배출하는 막대한 열을 잡기 어려워졌기 때문이다. 최신 차세대 칩셋이 대거 투입되는 대규모 AI 클러스터일수록 고집적 전력과 강력한 냉각 기술이 데이터센터 운영의 핵심으로 꼽힌다.
국내 기술 기업들도 정부 지원에 힘입어 차세대 데이터센터 인프라 확충에 나섰다.
AI 인프라 및 클라우드 전문기업 엘리스그룹이 과학기술정보통신부와 정보통신산업진흥원(NIPA)이 추진하는 'AI컴퓨팅자원활용기반강화' 사업 참여 기업으로 선정됐다. 김재원 대표가 이끄는 엘리스그룹은 차세대 초고성능 GPU를 기반으로 한 독자적인 AI 데이터센터를 구축하고 운용할 방침이다.
이번 사업은 국내 스타트업, 중소기업, 연구기관이 초거대 AI 모델을 개발하고 기술 연구에 전념할 수 있도록 국가 차원의 인프라를 확충하는 대형 프로젝트다. 고성능 AI 연산에 필수적인 GPU 자원을 정부와 전문 기업이 연계해 시장에 안정적으로 공급한다는 목적을 담았다.
엘리스그룹은 이번 사업을 위해 최신 B300 GPU 총 2560장을 확보해 도입한다.
장비 배치는 대형 단일 건물 형태가 아닌 모듈형 데이터센터 방식으로 이뤄진다. 총 4개 동으로 구성되는 모듈형 AI 데이터센터에 각각 640장의 B300 GPU를 나누어 탑재한다. 모듈러 컨테이너 방식은 고하중 설계와 높은 단열 성능을 바탕으로 부지 확보 후 대규모 GPU 인프라를 신속하게 조립하고 가동할 수 있는 장점이 있다. 폭증하는 AI 연산 수요에 맞춰 서버 공간을 빠르게 늘리기 위한 전략적 선택이다.
핵심은 발열 관리다. 초고성능 칩셋이 빽빽하게 꽂히는 고집적 환경인 만큼 기존 공랭식(공기 냉각) 방식만으로는 열을 식히는 데 한계가 명확하다.
엘리스그룹은 칩셋에 직접 냉각수를 흘려보내는 직접수랭식(DLC) 방식을 전면 적용한다. 여기에 GPU 클러스터 전용 초고속 네트워크 구조를 설계해 데이터 병목을 최대로 줄였다.
특히 40도 이상의 냉각수를 활용하는 온수 냉각 방식에 외부 공기를 활용한 외기 냉각 기술을 결합했다. 온수 냉각을 사용하면 냉각수를 극도로 차갑게 만드는 과정에 드는 전력을 대폭 줄일 수 있다.
이 같은 기술을 결합해 데이터센터 전력사용효율(PUE)을 1.1 수준으로 낮추는 것이 목표다. PUE는 데이터센터가 쓰는 총전력을 순수 IT 장비 전력으로 나눈 값으로, 1에 가까울수록 전력 낭비가 없는 효율적인 시설로 평가받는다. 일반적으로 국내 데이터센터 평균 PUE가 1.5~1.8 수준임을 감안하면 전력 소비를 극도로 줄인 친환경 인프라다.
수랭식 장비 도입 시 늘 따라붙는 누수 위험에도 대비했다. 엘리스그룹은 자체 특허 기술을 활용해 냉각 배관 구조를 완전 분리 설계했다. 혹시 모를 누수 사고가 발생하더라도 수백 억 원에 달하는 고가 GPU 장비에 직접적인 피해가 가지 않도록 방화벽을 친 셈이다.
정부와 관련 업계는 이번 사업을 통해 국내 AI 개발체계의 병목 현상이 일정 부분 해소될 것으로 보고 있다. 글로벌 AI 경쟁이 속도전으로 치달으면서 고성능 인프라 확보 여부가 기술 주권과 직결되고 있어서다.
김재원 엘리스그룹 대표는 "이번 과기정통부 및 NIPA 사업 선정을 계기로 고성능 GPU 인프라와 친환경 데이터센터 운영 기술을 동시에 검증하게 됐다"며 "차세대 AI 컴퓨팅 인프라를 신속하게 완성해 국내 연구진과 기업들이 성능 제약 없이 AI 개발에 몰입할 수 있는 환경을 만들 것"이라고 전했다.
