AI 시대 데이터센터 서버 과부화 잦아지며 DPU 각광
엔비디아·AMD·MS도 DPU 기술 확보 경쟁
망고부스트, 2022년 창업해 기업가치 4000억원 달성
“삼성전자·AMD에 IP 공급… 인텔과도 협업”
“엔비디아 DPU와 달리 가속 기능 탑재”
글로벌 빅테크 기업들이 앞다퉈 서버최적화가속기(DPU) 기술 확보에 나서고 있다. 인공지능(AI) 시대 데이터센터 내 서버 과부하가 잦아지고 있기 때문이다. DPU는 서버 과부하를 줄이는 시스템 반도체다. 중앙처리장치(CPU)와 그래픽처리장치(GPU), 솔리드스테이트드라이브(SSD) 등의 동작을 최적화해 서버 효율을 극대화하는 역할을 한다. 시장조사업체 마켓앤드마켓츠에 따르면 글로벌 DPU 시장은 매년 35% 성장해 오는 2027년 100조원 규모로 성장할 전망이다.
엔비디아는 지난 2020년 이스라엘 반도체 기업 멜라녹스테크놀로지를 70억달러(약 9조6950억원)에 인수했고, AMD도 지난해 데이터센터 서버용 반도체 개발 스타트업 펜산도를 19억달러(약 2조6300억원)에 사들였다. 올해 초에는 마이크로소프트가 DPU 스타트업 펀저블을 인수했다.
서울대 전기정보공학부 교수인 김장우(52) 대표가 지난 2022년 창업한 AI 반도체 스타트업 망고부스트도 DPU 시장에 도전장을 내밀고 있다. 김 대표는 미국 코넬대에서 전기공학 학사와 컴퓨터공학 석사를, 미국 카네기멜론대에서 전기컴퓨터공학 박사를 받았다. 오라클에 인수된 선마이크로시스템즈 CPU 개발자 출신으로 ISCA, MICRO 등 세계적 컴퓨터 시스템 학회 명예의 전당에 헌액된 DPU 분야 석학이다.
지난달 15일 서울 관악구 망고부스트 본사에서 조선비즈와 만난 김 대표는 2012년부터 데이터센터 내 서버 과부화 문제를 해결할 수 있는 DPU에 관심을 갖게 됐다고 했다. 그는 “AI 성능이 고도화되며 디바이스 과부하 및 데이터 병목 현상이 극심해질 것으로 내다봤다”며 “실제로 챗GPT만 해도 수천만원대 GPU가 10개 가까이 들어가는 서버를 수십개 사용하고 있지만, 원하는 성능을 구현하지 못해 서버를 계속 증설하고 있다”고 했다.
김 대표는 “2018년 아마존웹서비스(AWS)에서 DPU 솔루션을 활용하고 있다는 소식을 듣고 DPU가 시장성이 있다는 것을 직감했다”면서 “망고부스트가 보유한 설계자산(IP)을 기반으로 AMD와 함께 DPU 제품을 개발했다. 해당 솔루션을 바탕으로 삼성전자도 스토리지 저장용량을 페타바이트(PB)급으로 끌어올린 PBSSD 제품을 개발 중”이라고 했다.
망고부스트는 현재까지 약 860억원의 투자금을 유치해, 기업가치 4000억원을 돌파했다. 투자사로는 신한벤처투자와 KB인베스트먼트, 한국산업은행 등이 있다. 현재 망고부스트의 임직원 수는 76명이다. 김 대표는 “AMD와 삼성전자 등 글로벌 기업들이 망고부스트의 IP를 채택한 만큼 기술력은 입증됐다고 본다”며 “세계 시장에서 1위를 차지하고 싶다”고 했다. 다음은 김 대표와의 일문일답.
—망고부스트를 창업하게 된 계기는.
“학부생 시절부터 시스템 반도체 분야 연구를 지속해 왔다. 서울대에 교수로 재직하기 전에도 오라클에 인수된 선마이크로시스템즈에서 CPU 개발자로 일했다. AI 기술이 급성장하는 모습을 보면서 이를 구동하기 위한 데이터센터 내 서버 효율화 문제가 부각될 것으로 봤다. 데이터 병목 현상을 해소하고 서버를 효율적으로 운영할 수 있는 DPU 연구에 착수하게 됐다.
2018년 무렵 AWS가 DPU를 개발해 관련 기술을 보유하고 있다는 소식을 접하고 수요가 확대될 것이라는 직감에 창업을 결심했다. DPU를 함께 연구한 제자 15명과 창업을 앞두고 상용화할 수 있는 기술 개발에 몰두했다. 삼성, 인텔 등에서 일했던 개발자들도 합류해 지난 2022년 창업했다. 글로벌 빅테크 기업들이 스타트업들을 인수하고 기술 개발을 위해 우리에게 협업을 요청하는 것을 보면, 예감이 적중했다는 생각이 든다.”
—망고부스트의 DPU 상용화 수준은.
“망고부스트의 DPU IP를 바탕으로 AMD와 함께한 제품 개발이 완료됐다. AMD가 하드웨어 플랫폼을 제공하고, 망고부스트가 맞춤형 솔루션을 지원하는 방식이다. 망고부스트가 DPU를 회로 변경이 가능한 프로그래머블 반도체(FPGA) 형태로 AMD에 공급하고, AMD가 데이터센터 운용사로 납품하는 형태의 비즈니스 모델을 구축했다. 국내 기업 중에선 삼성전자와 협력하고 있다. 삼성전자가 개발 중인 PBSSD에 서버 SSD 스토리지에 특화된 망고부스트 DPU IP를 적용한다. 인텔과도 협업을 진행 중이다.”
—팹리스(반도체설계) 기업으로서 경쟁력은.
“DPU에 대한 원천 기술을 갖고 있다는 점 외에 팹리스 기업으로 시스템온칩(SoC)에만 사업이 치중되지 않았다는 것이 강점이다. 일반적인 팹리스 기업들은 SoC 하나를 개발하기 위해 수백억원의 자금을 투입한다. 막대한 비용을 들여도 원하는 성능의 칩이 개발되지 않으면 무용지물이다. 칩이 개발된 이후에도 시장에서 상용화될지 가늠하기 어렵다. 망고부스트도 SoC를 개발 계획을 갖고 있긴 하지만, 현재까지는 IP와 같이 소프트웨어 솔루션에 주력하고 있다. 삼성전자·AMD 같은 기업에서 스타트업인 망고부스트의 IP를 사용한다는 것만으로도 기술 경쟁력을 입증했다고 생각한다.”
—AI 반도체 시장 강자인 엔비디아를 뛰어넘을 수 있을까.
“엔비디아가 GPU 사업에서는 절대 강자로 군림하고 있는 상황이다. 엔비디아가 GPU 시장을 지배할 수 있었던 것은 뛰어난 하드웨어 성능뿐만 아니라, GPU를 기반으로 한 소프트웨어 생태계를 구축했기 때문이다. DPU는 아직 GPU만큼의 소프트웨어 생태계가 자리잡지 않은 상황이다. 망고부스트의 IP가 탑재된 DPU 솔루션은 엔비디아가 개발한 DPU와 달리 서버 가속을 구현할 수 있는 기능이 적용된다는 장점이 있다.
엔비디아의 DPU는 ARM 코어 중심으로 설계돼 CPU의 부담을 덜어줄 수는 있지만 서버 내에 하드웨어를 가속시키는 데 어려움이 있다. 망고부스트는 하드웨어를 가속할 수 있는 DPU IP를 다량 보유했다. 비유하자면, 엔비디아의 DPU는 복잡한 교통상황을 관제할 수는 있지만, 다리를 놔주거나 도로를 추가하는 데 한계가 있다. 망고부스트는 이 같은 기능을 구현할 수 있다.”
—앞으로의 목표는.
“데이터센터에 DPU가 탑재되는 것을 증명해야 한다. 이를 위해 여러 고객사 데이터센터에 AMD와 공동 개발한 DPU를 탑재해 품질 테스트를 진행하고 있다. 구체적인 고객사 이름을 언급할 수는 없지만, 빠른 시일 내에 상용화될 것으로 예상한다. 망고부스트의 DPU 기술력을 입증해 전 세계 시장에서 1위를 차지하는 모습을 보여주고 싶다.”
엔비디아·AMD·MS도 DPU 기술 확보 경쟁
망고부스트, 2022년 창업해 기업가치 4000억원 달성
“삼성전자·AMD에 IP 공급… 인텔과도 협업”
“엔비디아 DPU와 달리 가속 기능 탑재”
그래픽=정서희
글로벌 빅테크 기업들이 앞다퉈 서버최적화가속기(DPU) 기술 확보에 나서고 있다. 인공지능(AI) 시대 데이터센터 내 서버 과부하가 잦아지고 있기 때문이다. DPU는 서버 과부하를 줄이는 시스템 반도체다. 중앙처리장치(CPU)와 그래픽처리장치(GPU), 솔리드스테이트드라이브(SSD) 등의 동작을 최적화해 서버 효율을 극대화하는 역할을 한다. 시장조사업체 마켓앤드마켓츠에 따르면 글로벌 DPU 시장은 매년 35% 성장해 오는 2027년 100조원 규모로 성장할 전망이다.
엔비디아는 지난 2020년 이스라엘 반도체 기업 멜라녹스테크놀로지를 70억달러(약 9조6950억원)에 인수했고, AMD도 지난해 데이터센터 서버용 반도체 개발 스타트업 펜산도를 19억달러(약 2조6300억원)에 사들였다. 올해 초에는 마이크로소프트가 DPU 스타트업 펀저블을 인수했다.
서울대 전기정보공학부 교수인 김장우(52) 대표가 지난 2022년 창업한 AI 반도체 스타트업 망고부스트도 DPU 시장에 도전장을 내밀고 있다. 김 대표는 미국 코넬대에서 전기공학 학사와 컴퓨터공학 석사를, 미국 카네기멜론대에서 전기컴퓨터공학 박사를 받았다. 오라클에 인수된 선마이크로시스템즈 CPU 개발자 출신으로 ISCA, MICRO 등 세계적 컴퓨터 시스템 학회 명예의 전당에 헌액된 DPU 분야 석학이다.
지난달 15일 서울 관악구 망고부스트 본사에서 조선비즈와 만난 김 대표는 2012년부터 데이터센터 내 서버 과부화 문제를 해결할 수 있는 DPU에 관심을 갖게 됐다고 했다. 그는 “AI 성능이 고도화되며 디바이스 과부하 및 데이터 병목 현상이 극심해질 것으로 내다봤다”며 “실제로 챗GPT만 해도 수천만원대 GPU가 10개 가까이 들어가는 서버를 수십개 사용하고 있지만, 원하는 성능을 구현하지 못해 서버를 계속 증설하고 있다”고 했다.
김 대표는 “2018년 아마존웹서비스(AWS)에서 DPU 솔루션을 활용하고 있다는 소식을 듣고 DPU가 시장성이 있다는 것을 직감했다”면서 “망고부스트가 보유한 설계자산(IP)을 기반으로 AMD와 함께 DPU 제품을 개발했다. 해당 솔루션을 바탕으로 삼성전자도 스토리지 저장용량을 페타바이트(PB)급으로 끌어올린 PBSSD 제품을 개발 중”이라고 했다.
망고부스트는 현재까지 약 860억원의 투자금을 유치해, 기업가치 4000억원을 돌파했다. 투자사로는 신한벤처투자와 KB인베스트먼트, 한국산업은행 등이 있다. 현재 망고부스트의 임직원 수는 76명이다. 김 대표는 “AMD와 삼성전자 등 글로벌 기업들이 망고부스트의 IP를 채택한 만큼 기술력은 입증됐다고 본다”며 “세계 시장에서 1위를 차지하고 싶다”고 했다. 다음은 김 대표와의 일문일답.
—망고부스트를 창업하게 된 계기는.
“학부생 시절부터 시스템 반도체 분야 연구를 지속해 왔다. 서울대에 교수로 재직하기 전에도 오라클에 인수된 선마이크로시스템즈에서 CPU 개발자로 일했다. AI 기술이 급성장하는 모습을 보면서 이를 구동하기 위한 데이터센터 내 서버 효율화 문제가 부각될 것으로 봤다. 데이터 병목 현상을 해소하고 서버를 효율적으로 운영할 수 있는 DPU 연구에 착수하게 됐다.
2018년 무렵 AWS가 DPU를 개발해 관련 기술을 보유하고 있다는 소식을 접하고 수요가 확대될 것이라는 직감에 창업을 결심했다. DPU를 함께 연구한 제자 15명과 창업을 앞두고 상용화할 수 있는 기술 개발에 몰두했다. 삼성, 인텔 등에서 일했던 개발자들도 합류해 지난 2022년 창업했다. 글로벌 빅테크 기업들이 스타트업들을 인수하고 기술 개발을 위해 우리에게 협업을 요청하는 것을 보면, 예감이 적중했다는 생각이 든다.”
—망고부스트의 DPU 상용화 수준은.
“망고부스트의 DPU IP를 바탕으로 AMD와 함께한 제품 개발이 완료됐다. AMD가 하드웨어 플랫폼을 제공하고, 망고부스트가 맞춤형 솔루션을 지원하는 방식이다. 망고부스트가 DPU를 회로 변경이 가능한 프로그래머블 반도체(FPGA) 형태로 AMD에 공급하고, AMD가 데이터센터 운용사로 납품하는 형태의 비즈니스 모델을 구축했다. 국내 기업 중에선 삼성전자와 협력하고 있다. 삼성전자가 개발 중인 PBSSD에 서버 SSD 스토리지에 특화된 망고부스트 DPU IP를 적용한다. 인텔과도 협업을 진행 중이다.”
—팹리스(반도체설계) 기업으로서 경쟁력은.
“DPU에 대한 원천 기술을 갖고 있다는 점 외에 팹리스 기업으로 시스템온칩(SoC)에만 사업이 치중되지 않았다는 것이 강점이다. 일반적인 팹리스 기업들은 SoC 하나를 개발하기 위해 수백억원의 자금을 투입한다. 막대한 비용을 들여도 원하는 성능의 칩이 개발되지 않으면 무용지물이다. 칩이 개발된 이후에도 시장에서 상용화될지 가늠하기 어렵다. 망고부스트도 SoC를 개발 계획을 갖고 있긴 하지만, 현재까지는 IP와 같이 소프트웨어 솔루션에 주력하고 있다. 삼성전자·AMD 같은 기업에서 스타트업인 망고부스트의 IP를 사용한다는 것만으로도 기술 경쟁력을 입증했다고 생각한다.”
—AI 반도체 시장 강자인 엔비디아를 뛰어넘을 수 있을까.
“엔비디아가 GPU 사업에서는 절대 강자로 군림하고 있는 상황이다. 엔비디아가 GPU 시장을 지배할 수 있었던 것은 뛰어난 하드웨어 성능뿐만 아니라, GPU를 기반으로 한 소프트웨어 생태계를 구축했기 때문이다. DPU는 아직 GPU만큼의 소프트웨어 생태계가 자리잡지 않은 상황이다. 망고부스트의 IP가 탑재된 DPU 솔루션은 엔비디아가 개발한 DPU와 달리 서버 가속을 구현할 수 있는 기능이 적용된다는 장점이 있다.
엔비디아의 DPU는 ARM 코어 중심으로 설계돼 CPU의 부담을 덜어줄 수는 있지만 서버 내에 하드웨어를 가속시키는 데 어려움이 있다. 망고부스트는 하드웨어를 가속할 수 있는 DPU IP를 다량 보유했다. 비유하자면, 엔비디아의 DPU는 복잡한 교통상황을 관제할 수는 있지만, 다리를 놔주거나 도로를 추가하는 데 한계가 있다. 망고부스트는 이 같은 기능을 구현할 수 있다.”
—앞으로의 목표는.
“데이터센터에 DPU가 탑재되는 것을 증명해야 한다. 이를 위해 여러 고객사 데이터센터에 AMD와 공동 개발한 DPU를 탑재해 품질 테스트를 진행하고 있다. 구체적인 고객사 이름을 언급할 수는 없지만, 빠른 시일 내에 상용화될 것으로 예상한다. 망고부스트의 DPU 기술력을 입증해 전 세계 시장에서 1위를 차지하는 모습을 보여주고 싶다.”