한국일보 애틀랜타 전자신문

2023년 12월 18일 (월) D www.Koreatimes.com 전화 770-622-9600 The Korea Times www.higoodday.com 한국판 ‘데이터센터냉각’ 신기술전쟁 AI전용GPU서버‘막대한열’단점 공기대신특수냉각유사용했더니 온도바로낮추고안정적으로유지 고장날염려적고전력도37%절감 구글 ㆍ MS주요기업들도개발눈독 영화속해커들이침입하는데이터센 터(IDC)의모습은빽빽하게서있는서 버가빼곡히차있고굉음이들리는모 습이다. 하지만 13일찾은인천남동구 SK텔레콤 인천사옥 내 IDC에는 관처 럼뚜껑이덮여있는서버가덩그러니 누워있었다. 이곳은 SKT가 인공지능 (AI) 전용 IDC를만들기위해‘액침냉 각’기술을꼼꼼하게따져보는‘검증 소’다 아이폰 통화 녹음, 실시간 통역 서비스등다양한AI서비스를내놓고 있는 SKT는 뜨거워진 서버를 식히기 위해기름속에서버를넣겠다는과감 한방식을택했다. 실제IDC환경에서액침냉각기술의 효과를 입증한 건 국내에서는 SKT가 처음이다. 보안이 철저한 IDC답게 입 장부터여러차례인증을받아야했다. 특히액침냉각이적용된서버는 IDC 가장안쪽에서따로검증중이었다. 서 버를덮고있는뚜껑을열어보니수많 은전선으로연결된장치가기름속에 풍덩담긴채돌고있었다.다른한쪽에 선짧은시간내물을데워주는발열봉 이수십개꽂혀있었다. 최우신SKT인프라엔지니어링팀매 니저는“눈깜짝할새200도이상올라 가는발열봉 70개까지작동시키는가 혹한 조건에서도 서버를 둘러싸고 있 는기름온도를40도로유지하는데성 공했다”고말했다. SKT가 액침 냉각기술을IDC에 적용 한 이유는 전력사용량을 줄이면서도 고성능의 그래픽처리장치(GPU)를 가 동하기 위해서다. 지난해 챗GPT를시 작으로 AI 서비스가 대중화되면서 이 를가동하기위한 IDC 인프라의중요 성도커지고있다. 엄청난양의데이터 를처리해야하는만큼 IDC 업체들은 최첨단 GPU를구축한서버를경쟁적 으로늘리고있다. 문제는그과정에서 막대한열이생긴다는점이다. GPU를 비롯한 모든 반도체는 운영 과정에서85도이상의고온이되면스 스로 성능을 제한하는‘스로틀링’기 능을갖추고있다. 발열을제대로제어 하지 못하면 기기의 수명과 배터리에 나쁜영향을주기때문이다. 특히기존 중앙처리장치(CPU) 서버보다 더 많 은데이터를처리하는GPU는열에더 욱취약하다. 이에GPU성능을 100% 구현하기위해서는서버의열을안정적 으로유지하는것이중요하다.그동안 7~10도정도의물로찬공기를만들어 IDC의 열을 낮추는수랭식 공기냉각 방식을 써왔는데 간접적으로 열기를 낮추다 보니 효율이 떨어지고 차가운 물을만드는데도비용이많이들었다. 반면 액침 냉각은 특수 냉각유에 서 버를직접담그는만큼온도를곧바로 낮출수있다.서버의열때문에온도가 오른냉각유는펌프를통해시원한물 과 접촉시켜 열을 식히고 미리 식혀둔 냉각유가다시투입되는순환구조다. 안하늘기자☞3면에계속 기름에푹 ~ 담갔더니 … 열받은AI서버, 확식었다