문병로 서울대 컴퓨터공학부 교수가 지난달 28일 서울 관악구 서울대 컴퓨터연구소 민상렬홀에서 경향신문과 인터뷰하며 AI 혁명의 현재와 미래에 대해 이야기하고 있다. 그는 “전기가 없던 세상과 전기를 베이스로 하는 세상의 차이처럼 AI는 향후 일상과 산업에 어마어마한 변화를 가져올 것”이라고 말했다. 서성일 선임기자

컴퓨터 알고리즘 최적화 분야에서 최상의 난제들을 풀어낸 세계적 석학이다. 서울대, 카이스트, 미국 펜실베이니아 주립대에서 수학했고, LG전자 중앙연구소 연구원으로 일하기도 했다. 최적화 알고리즘을 주식 투자에 적용하는 (주)옵투스자산운용을 2009년 설립해 최근까지 누적수익률 772%를 기록했다. 국제 저널 등에 150여편의 논문을 발표하고, 인공지능(AI) 관련 강연이나 기고 등 대외 활동도 왕성하게 하고 있다. <쉽게 배우는 알고리즘> 등 전공서적 이외에 투자 지침·철학서인 <문병로 교수의 메트릭 스튜디오>를 썼다. 서울대 학술연구교육상등을 수상했고, 서울대 공대 ‘불후의 명강’ 시리즈 1호로 선정되기도 했다.

인간의 일상을 바꿀 인공지능(AI)의 비약적 발전이 쉼 없이 진행 중이다. 올해 글로벌 AI 시장은 4000억달러(약 575조원) 규모로 성장하면서 클라우드 컴퓨팅, 데이터 분석, 머신러닝 기술과 헬스케어, 자동차, 금융 등 각종 분야에서 AI 활용이 가속화할 것으로 예상된다.

엔비디아, 구글, 테슬라, 메타 등 미국 빅테크의 전유물로만 여겨지던 AI 시장은 올해 초 중국 ‘딥시크’가 내놓은 생성형 AI ‘R1’으로 요동쳤다. 천문학적 투자금을 끌어모으던 AI 선두주자들에게 신생 스타트업이 저사양 반도체를 사용하는 등 비용을 낮춘 기술 혁신의 성과로 일격을 가한 것이다. 미국의 실리콘밸리와 월스트리트는 1957년 10월4일 소련이 세계 최초로 인공위성 스푸트니크 발사에 성공한 것에 빗대며 놀라움을 감추지 못했다.

그렇다면 인터넷 선진국, 반도체 수출 대국을 내세우며 디지털 강국임을 자부하던 우리는 어떤 상황인가. 국회가 지난 1월 글로벌 AI 100대 기업을 선정해 만든 ‘글로벌 AI 기업 지형도’에 국내 AI 기업은 한 군데도 없다. 국내 1위 기업 삼성전자마저 AI 물결에 올라타지 못해 고전하고 있다. 누가 무엇을 어떻게 해야 할 것인가. 문병로 서울대 컴퓨터공학부 교수를 만나 전 세계적인 AI 혁신의 좌표와 방향, 우리가 나아갈 길에 대해 물었다.























데이터 프로세스까지 공개

- 딥시크에 대해 일각에선 기존 기술들을 조합한 정도에 불과하다고 평가절하하기도 합니다.

“딥시크가 공개한 기술 자료를 보면 이미 엄청난 수준에 가 있습니다. 딥시크는 H800(엔비디아가 미국 정부의 대중국 수출 규제를 피하기 위해 H100의 성능을 다소 낮춘 중국 판매 전용 GPU. GPU는 그래픽처리장치란 뜻으로 AI 연산의 두뇌 역할을 하는 핵심 칩을 말한다)을 사용했지만 8비트 연산을 사용해서 간단히 넘어갔습니다(8비트 연산은 32비트나 16비트 연산보다 정확도는 떨어지나 메모리 사용 효율이 높고 속도가 빠르다). 캐시 메모리를 영리하게 사용함으로써 긴 입력 처리 속도를 크게 개선했고, GPU 간 교신 속도 제약을 암호화 등의 방식으로 극복했습니다. 또 대부분의 AI 프로그램이 쿠다(GPU를 슈퍼컴퓨터처럼 사용하게 해주는 소프트웨어적 하부 지원 구조) 위에서 코딩합니다. 그런데 딥시크는 하드웨어에 직접 접촉하기도 하면서 GPU 활용을 극대화했지요. 물론 중국이란 나라의 특성상 AI 훈련에 필요한 데이터 수집이 용이했을 수 있고, 챗GPT 등에서 증류(distillation, 다른 AI 모델과의 대화 내용을 훈련에 사용)한 것도 무시할 수 없죠.”

- 딥시크의 기술들을 공개했다는 점이 평가받기도 합니다.

“딥시크는 세계 경제의 민폐국으로 여겨지던 중국이 띄운 찬란한 별이라고 할 수 있습니다. 중국이란 나라가 그동안 다른 나라 기술을 도용한다는 의혹도 있고, 경제 규모는 크지만 기여도나 인식은 후진국이라는 이미지가 있었습니다. 그런데 딥시크가 그걸 한 방에 반감시켰습니다. 자기들이 개발한 소스뿐 아니라 훈련을 위한 데이터를 가공하는 프로세스까지도 공개했습니다. 다른 사람들이 그걸 이용해 새로운 시스템을 만들거나 개선하는 데 손색이 없는 정도의 공개 수준입니다. 챗GPT를 내놓은 ‘오픈AI’는 이름에 오픈을 달았지만 지금 대표적인 폐쇄형 기업으로 변했는데, 이번 딥시크의 공개로 큰 충격을 받았을 겁니다.”

- 그런데 챗GPT를 능가하는 건 아니지 않습니까. 그렇다면 챗GPT의 독주가 계속될 것이다, 이렇게 봐야 하나요.

“딥시크가 돌풍을 일으킨 와중에 일론 머스크의 ‘xAI’가 ‘그록3’를 내놓았는데, 최고급 버전인 프리미엄 플러스를 구매해 사용해 보니 ‘챗GPT 프로’에 전혀 떨어지지 않았습니다. 저는 AI를 테스트할 때 복잡한 문장 다중 구조나 알고리즘 기술에 관해 물어보면서 재귀적 사고 구조의 이해도를 평가하거나, AI의 최근 기술에 관한 대화를 해봅니다. 제가 월 3만원대로 사용하던 챗GPT 플러스보다 10배 비싼 챗GPT 프로로 바꿨을 때 ‘와, 이거 신세계구나’ 생각했는데 지금은 챗GPT 프로 사용료의 7분의 1 수준인 그록3를 더 많이 사용하고 있습니다. 이렇게 보면 생성형 AI 플레이어로 오픈AI, xAI, 딥시크 이들 세 회사를 꼽을 수 있겠다고 생각합니다. 여기에 미국의 AI 스타트업 엔트로픽이 새로운 AI 모델 ‘클로드3.7소넷’을 출시했는데, 이것도 만만치 않습니다. 그러니까 전 세계적으로 시시각각 새로운 생성형 AI들이 나오고 있는 거죠. 오픈AI로서는 좀 당혹스러울 겁니다. 자기들은 폐쇄형 비즈니스 모델로 1000조원 가까운 돈을 유치하려 하고 있는데 자기보다 훨씬 적은 돈을 쓰는 회사들이 나오고, 심지어 오픈소스로 근접한 수준의 AI를 내놓기도 하니까요.”

한국, AI 분야 총체적으로 뒤처져

- 우리나라에서도 딥시크 수준의 생성형 AI를 만들 수 있을까요.

“2년 전만 하더라도 우리나라 역시 노력하면 세계 수준에 근접한 생성형 AI를 만들 수 있지 않을까 하는 기대감이 있었지만, 이제는 수준 차가 너무 확연해졌다는 결론이 나온 것 같습니다. 우리나라 대표적 생성형 AI 서비스인 네이버 클로바의 기술적 세부사항은 모르지만, 내놓는 결과들을 보면 톱티어들과 비교할 만한 정도가 아닙니다.”

- 우리나라가 AI 분야에서 뒤처지는 이유는 뭐라고 보시는지요.

“일단 컴퓨팅 파워가 비교가 되지 않습니다. 그록3는 10만개 이상의 H100을 사용해 훈련을 시켰거든요. 지금은 20만개를 확보한 것으로 보입니다. 딥시크는 H800을 2048개 썼다고 하지만 실제로 보유한 GPU는 몇만개 수준일 겁니다. 메타의 저커버그 CEO도 지난해 말까지 35만개의 H100을 구입하겠다는 목표를 밝혔고요. 그런데 한국은 국가를 통틀어 H100이 3000개도 안 됩니다. 게임이 안 되는 겁니다. 여기에 인력풀, 세부적인 엔지니어링 수준, 각 도메인에 특화된 추가적인 모델링의 확장과 변형, 데이터의 품질 등이 총체적으로 뒤떨어져 있습니다.”

- 그러면 우리나라는 어떻게 대응해야 할까요.

“거대언어모델(LLM)을 직접 개발해 소유해야 한다는 강박관념으로부터 벗어날 필요가 있습니다. 오픈소스와 오픈 파라미터 셋을 잘 개량해서 산업에 활용하는 쪽에 초점을 맞추어야 할 것으로 봅니다. 미국의 일개 기업이 10만개 이상의 H100 GPU를 사용하고, 중국이 약 100만개 H800 GPU를 가진 세상입니다. 통틀어 고작 2000개가 겨우 넘는 H100을 가진 나라에서는 가장 현명한 선택을 해야 합니다. 공개된 모델이나 개량 모델로 각 분야에서 할 수 있는 일을 해야 합니다.”

- 정부의 역할은 뭐라고 생각하시나요.

“정부 지원이 투 트랙으로 가야 한다고 생각합니다. 첫 트랙은 우선 한두 개 집단에 대규모 지원을 해주는 것이고, 다른 트랙은 대규모 공공 GPU 클러스터를 구축해서 AI 연구나 훈련의 저변을 넓히는 겁니다. 대규모 지원을 받는 집단은 오픈소스, 오픈 파라미터 원칙을 강력하게 지킬 것을 약속해야 할 것입니다. 지금 우리나라는 H100 GPU로 훈련할 수 있는 집단이 아주 제한적입니다. 많은 연구자가 쓸 만한 GPU에 쉽게 접근할 수 있는 공공 클러스터가 절실합니다. 정부가 1만~2만개 규모의 H100을 구매하려 하는데, 바람직한 방향입니다. 조금만 큰 H100 서버를 설치하려 해도 많은 전기 공급이 필요하기 때문에 국가 전력체계도 정비해야 합니다.”

- AI가 바꾸는 미래는 어떨까요.

“일상생활에서 점점 인터페이스가 쉬워지고, 호흡하듯 AI를 이용하게 될 겁니다. 자기 일정 같은 거 이야기하고 어디 뭐 해달라고 그러면 그쪽으로 연동해서 일정표 작성하고 예약해주고 하겠죠. 며칠 전 제가 그록3하고 이야기하면서 불편한 점이 있어 개선을 해줬으면 좋겠다 했더니, 그록3가 제가 말한 점을 정리하고 ‘이걸 xAI 사이트 어디에 들어가서 전달하시면 됩니다’ 이렇게 이야기를 하는 겁니다. 그래서 제가 아니 지금 1년에 50만원 이상을 주고 쓰고 있는데 이런 피드백을 내가 해야 되느냐, 네가 바로 본사에 피드백을 하면 되지 않느냐 그랬더니 그 뒤로는 피드백을 해달라고 하면 다 직접 해줍니다. 그러니까 앞으로는 사람이 홈페이지 접속이나 전화를 할 필요 없이 그냥 ‘이거 불편하니 고쳐줘’ 그러면 이제 그 소비자 서비스 부서에 연결해 자동으로 자기들끼리 처리하는 세상이 되는 거죠. 그런 커뮤니케이션 마찰이 하나하나 줄어드는 게 굉장히 큰 겁니다. AI 없는 세상에 사는 거는 스마트폰 없이 사는 사람하고 비슷한 처지가 되는 거죠. 시간의 문제입니다.”

- 그러니까 AI가 개인 비서 역할을 한다는 거네요. 전문적 직업 영역에서도 역할을 할까요.

“그렇죠. AI를 활용할 수 있는 사람과 활용할 수 없는 사람 간의 일처리 시간이나 실력차가 어마어마하게 커지게 됩니다. 이미 프로그래머들은 AI 없이는 효율이 떨어지는 시대입니다. 예전의 30% 노력으로 이전과 같은 퍼포먼스를 낼 수 있게 됐고 그건 점차 강화될 겁니다. 어떤 게임회사를 예로 들면 지금은 한 부서의 팀장이 10명의 팀원을 거느리고 일을 하죠. 팀장의 역할은 전체적 계획을 세우고 스케치를 하고 전체적인 구조를 세우고 그다음에 어떤 부분을 자기 팀원들한테 맡기고 그들이 가져온 결과물을 통합하는 겁니다. 그런데 팀장이 그 10명이 일하는 거를 그냥 생성형 AI한테 코딩 지시해서 그 코드 받아 잘못된 거 있으면 자기가 에러 고쳐가면서 혼자 할 수 있게 된 거죠. 각 산업 분야에 특화된 형태로 전문가를 돕는 국소적 AI들이 많이 나올 겁니다.”

코딩으로 할 수 있는 일 급증할 것

- 결국 AI가 인간의 일자리를 줄이는 거네요.

“지금 얘기한 코딩 직업이 사라질 거로 생각할 수 있는데 사실 그건 심각한 착각입니다. 왜냐하면 코딩이 쉬워지니까 여러 도메인이나 산업 분야에서 코딩으로 할 수 있는 일들이 급증합니다. 그러면 기존에 없었던 종류의 새로운 응용이 생기고 지금보다 훨씬 수요가 커질 수밖에 없습니다. 역사적으로 보면 단순 반복적인 일에 종사하던 사람들의 직업을 컴퓨터가 감소시키고 결국 많은 실업을 낳을 거라고 했지만 반대로 컴퓨터의 발전으로 인해 컴퓨터와 관계된 새 직종이 얼마나 많이 생겼습니까? 지금 거의 모든 산업 분야에서 컴퓨터를 베이스로 한 새로운 직종들이 넘쳐나고, 그게 새로운 산업혁명을 일으킨 거거든요. 저는 AI가 일으킨 새로운 코딩 혁명이 훨씬 고급스럽고 다양한 비즈니스를 탄생시킬 것이고, 우리 세상은 훨씬 풍족해질 것이라고 봅니다. 다만 그리 길지 않은 고통스러운 과도기는 있겠지요.”

- 그러나 노벨상 수상자이자 AI의 아버지라 할 제프리 힌턴 교수도 미래 AI에 대해 부정적 입장입니다. 살인 로봇의 등장 같은 AI 윤리 문제, 인간을 능가하는 AGI의 탄생으로 AI가 인간을 지배할 것이라는 전망도 있고요.

“걱정스러운 부분은 당연히 있죠. 또 상당 부분이 현실화할 가능성이 높고요. 그렇다고 기술의 초창기부터 애초에 억눌러야 되느냐 하는 것은 전혀 다른 문제라고 생각합니다. 요새 여러 국제기구나 국가 등에서 AI 기술에 대한 법령들을 많이 정비하고 있지 않습니까? 그런 작업을 미리 해놓는 거는 아주 바람직하다고 생각합니다. 부작용을 선제적으로 예상하고 그에 대한 옅은 그물을 쳐놓는 건 필요하다고 보는데 너무 강력하게 기술을 옥죄어서는 안 된다고 생각합니다. 실제로 코미디 같은 일이 있었지 않습니까? 2년 전 일론 머스크 등이 강력하게 주장하기를, AI 기술이 이제 인류를 위협할 테니까 기술 진행 속도를 좀 늦추자고 했습니다. 지금 보니 머스크가 인류를 위해서 늦추자는 게 아니라 자기 회사가 기술적 기반을 잡을 때까지 늦추자고 말한 걸로 보입니다(웃음). 역사적으로도 기술 발전을 억제하려는 시도들이 성공한 적은 없습니다. 부작용은 최소화하고, 기술이 인류에 이바지하도록 사회적으로 관대해져야 합니다.”

필드테스트 원활해야 새로운 기회 창출

- AI가 기존 산업에는 어떤 영향을 미칠까요.

“AI는 생성형과 최적화형 두 갈래로 분화합니다. 대화나 스토리, 이미지, 동영상, 음악 등 콘텐츠를 만드는 생성형 AI는 정확한 답을 요구받지 않지만, 최적화형 AI는 문제에 대한 답을 요구받습니다. 매우 정확해야 합니다. 구글 딥마인드는 최적화형 AI 모델 알파폴드2로 2020년 천년의 과제라던 단백질 입체구조 문제를 거의 정복했습니다. 그 공로로 구글 딥마인드의 데미스 허사비스가 지난해 노벨 화학상을 받은 겁니다. 컴퓨터 시뮬레이션으로 저비용으로 신약을 만들어낼 수 있는 가능성이 열린 겁니다. 제약업의 혁명이 일어나는 것이죠. 2차 AI 혁명의 기술로 훨씬 많은 분야에서 최적화 이슈들을 풀 수 있습니다. 물류라든지, 제가 연구하는 주식 투자 분야도 한 예입니다. 저는 최적화형 AI 시장이 생성형 AI 시장보다 절대 작지 않다고 봐요. 거의 모든 산업의 도메인에 최적화 문제들이 널렸거든요.”

- 우리나라의 최대 기간산업은 반도체 제조입니다. AI가 앞으로 반도체 산업에는 어떤 영향을 미치고 어떤 성능의 반도체를 필요로 할까요.

“엔비디아가 한국 국내총생산(GDP)의 2배가 넘는 시가총액을 자랑하는 회사가 된 것만 보더라도 AI가 불러일으킨 반도체 산업의 혁명을 체감할 수 있습니다. 지금은 GPU가 훈련과 추론 단계에서 모두 사용되고 있습니다. 그러니까 GPU가 추론 쪽만 해야 할 때는 좀 비효율적인 면이 있는 거죠. 그래서 추론 전용 칩들이 나오고 있는 겁니다. GPU는 엔비디아 H100 같은 범용 칩과 추론 전용 칩 시장으로 나뉠 거고, 추론 전용 칩은 또 클라우드 같은 거대 서비스에 필요한 칩과 스마트폰이나 자동차 등 특정 디바이스나 도메인에 특화된 온디바이스 추론 칩 등으로 세분화할 겁니다. 그리고 굉장히 많은 계산을 하다 보면 발열 문제가 발생합니다. 그래서 반도체 설계의 저전력화에 대한 요구가 계속 커집니다.”

- 우리나라는 자동차, 바이오 등 주요 기간산업이 발전해 있고, 반도체 제조 기술도 발달해 있기 때문에 온디바이스 AI(기기에 직접 장착하는 AI) 시장을 놓쳐서는 안 된다는 주장이 많습니다.

“온디바이스도 우리가 할 수 있는 좋은 분야 중 하나고요. 추론 전용 칩도 메타에서 인수하려는 퓨리오사처럼 기술력 있는 회사들이 있어서 해 볼만 하다고 봅니다. 그런데 그걸 하려면 우리나라에서 소화할 수 있는 산업들이 좀 기본적으로 있어야 합니다. 필드 테스트가 원활해야 개량과 새로운 아이디어의 기회가 많아지거든요. 새로이 AI를 적용하고 최적화 이슈를 만들고 풀고, 그런 수요들이 확대돼야 추론 전용 칩의 경쟁력도 키울 수 있을 겁니다.”

박재현 논설위원

경향신문

박재현 논설위원 [email protected]