한국에 부족한 GPU, 어떻게 확보하고 무엇이 더 필요하나

사진: 에디

산업과 생태계가 형성되기 위해서 가장 중요한 것은 무엇일까요? 바로 인프라가 구축되어야 한다는 것입니다. AI 역시 생태계를 조성하기 위해서는 AI를 돌리는 데 사용되는 GPU와 데이터센터와 같은 인프라가 필수적입니다. 

중국은 "동수서산(동쪽에는 데이터 기업을 육성하고, 서쪽에서는 계산하는 기업을 육성)" 프로젝트를 통해 지난 5년간 연간 70조를 투자하며 AI 경쟁력을 강화했습니다. 이처럼 AI 인프라는 국가의 기관망으로 관리해야 할 정도로 중요하며, 정부의 적극적인 투자와 지원이 필수적입니다. 

하지만 한국의 AI 인프라 사정은 아직 열악하기만 합니다. 염재호 국가 AI 위원회 부위원장은 “지난 해 한국의 GPU는 3천장 밖에 없어 해외와 비교하면 엄청나게 뒤떨어져 있다”며 앞으로 정부는 어떻게 GPU 부족 문제를 해소할 것인지 물었습니다. 

정부에서도 이에 대해 공감하고 있었는데요. 김경만 과학기술정보통신부 인공지능기반정책관은 GPU 자원 부족 문제를 해결하기 위해 추진하고 있는 3단계 계획을 설명했습니다. 단기 플랜으로는 약 2천억 규모의 예산을 확보하여 GPU 임차하여 사용할 수 있도록 합니다. 그리고 1조 6천억을 투입해 빠른 시일 내에 GPU 자원을 구매하여 현재 데이터센터에 설치하고(10-11월 예상), 장기적으로는 2027년 완공을 목표로 국가 AI 컴퓨팅 센터 구축한다는 계획입니다. 

김민기 KAIST 교수는 하드웨어 확보만으로는 문제가 해결되지 않는다고 지적했습니다. GPU를 운영할 수 있는 전력 공급이 필요하며, 앞으로 에이전트 AI로 발전하면서 굉장히 많은 전력 수요가 야기되기 때문입니다. 데이터센터는 서버 운영에 필요한 에너지뿐만 아니라 냉각에도 약 40%의 전력이 소요됩니다. 여기에 더해 친환경 에너지 요구까지 있어 전력도 아끼면서 전력을 가져오는 것도 친환경적으로 하는 이중 압박이 있습니다. 

김민기 교수는 “서버 냉각 기술이나 단열 장치 등 운영 효율화 기술, 간헐적인 재생에너지를 잘 저장하고 처리하는 기술에도 지원이 필요”하며 “현재 산업용 전기요금이 가정용 전기요금보다 높은 비정상적인 전력 요금 체계 역시 개선이 필요하다”고 강조했습니다. 

데이터센터를 우리 손으로 직접 짓는 것이 어렵다는 문제도 있습니다. 김지현 SK경영경제연구소 부사장은 “클라우드 3사를 포함한 글로벌 기업들이 한국 내에 AI 서비스를 운영하기 위해 한국에서 데이터센터를 만들 수 있도록 적극적인 규제 완화와 한국 기업들이 적극적으로 참여할 수 있도록 독려해줘야 한다”고 말했습니다. 그렇게 되면 데이터센터의 운영 경험을 기반으로 또 다른 데이터센터를 독자적으로 만들 수 있는 기술력도 확보할 수 있다고 설명했습니다. 

사진: 에디

---

재밌게 읽으셨나요?
이 글이 흥미로웠다면 제가 직접 쓰고 만드는
AI 안테나 뉴스레터도도 재밌을 거예요!
매주 수요일마다 주요 AI 소식과 인사이트를
메일함에 넣어드립니다.
AI 안테나에서 또 만나요.

https://eddienewsletter.stibee.com/

AI안테나