GPU 부족해 반응 느려져… “일부 기능 영향”
GPU 개수·성능이 LLM 품질 결정
GPU 확보 못 하면 경쟁사에 밀릴 수도
30대 직장인 김모씨는 평소 업무에 생성형 인공지능(AI) ‘챗GPT’를 자주 이용한다. 외국인 고객에게 보내는 메일을 작성하거나 자료를 검색할 때 챗GPT에 조언을 구하기도 한다. 그러나 최근 사진을 ‘지브리풍’ 스타일 등의 그림으로 바꾸는 기능이 유행한 후 챗GPT의 대답이 느려진 느낌을 받았다.
김씨는 “평소에는 10초면 나올 간단한 설명이나 번역도 30초, 1분이 지나도 나오질 않는다”라며 “챗GPT가 과부하가 걸린 느낌”이라고 전했다.
오픈AI의 이미지 생성 AI 모델 ‘챗GPT-4o 이미지 제너레이션’(이미지젠) 수요가 폭발하면서 챗GPT가 시스템 과부하에 몸살을 앓고 있다. 업계에서는 오픈AI가 AI 모델 구동에 필수 부품인 그래픽처리장치(GPU)를 확보하지 못한다면 장기적으로 앤트로픽, 퍼플렉시티 같은 경쟁자들에 밀릴 수 있다는 분석을 내놓고 있다.
올트먼이 ‘10만개’ 달라고 사정한 GPU
샘 올트먼 오픈AI 최고경영자(CEO)는 지난 1일(현지시각) X를 통해 챗GPT 이미지젠을 이용하려는 가입자가 급증하면서 일부 기능이 느려질 수 있다고 했다. 올트먼 CEO는 “우리는 상황을 통제하고 있지만, 오픈AI의 새로운 서비스가 지연되거나, 일부 기능이 제대로 작동하지 않거나, 용량 문제로 인해 서비스가 때때로 느려질 수 있다는 점을 고려해 주기 바란다”라고 밝혔다.
올트먼 CEO는 또 “10만개의 GPU를 확보할 수 있다면 최대한 빨리 연락을 해달라”라고 언급했다. 앞서 그는 지난달 27일에도 “오픈AI의 GPU가 녹아내리고 있다”며 챗GPT 이미지젠의 인기를 알린 바 있다.
GPU는 거대언어모델(LLM)의 업무 수행 능력을 결정하는 핵심 하드웨어다. GPU 성능이 좋을수록 생성형 AI의 훈련과 대답 속도가 빨라지고, 복잡한 작업을 효율적으로 처리한다. 예컨대 과거 이세돌과 바둑 대결을 펼쳤던 구글 알파고에 들어간 GPU는 280개였다. 하지만 GPT-4의 경우 2만5000개의 엔비디아 A100 GPU가 들어간 것으로 파악됐다.
이미지젠 인기가 되려 악재?
오픈AI가 GPU를 추가로 확보하지 못하면 서버 과부하 사태가 당분간 지속될 것으로 보인다. 오픈AI는 유료 구독자만 사용할 수 있는 딥리서치도 조만간 무료 이용자들에게 개방할 예정이다. 딥리서치는 심층 검색과 추론을 통해 전문가 수준의 연구용 보고서를 작성하는 AI 에이전트다.
오픈AI의 경쟁사인 구글, 앤트로픽, 퍼플렉시티 등은 챗GPT를 겨냥해 각각 생성형 AI 모델을 출시하고 고객 확보에 공격적으로 나서고 있다. 데이터 분석 업체 센서타워에 따르면 올 3월 기준 구글 제미나이의 웹 트래픽은 하루 평균 1090만명을 기록하며 전월 대비 7.4% 증가했다. 마이크로소프트(MS) 코파일럿(Copilot)은 하루 240만명이 방문하며 2.1% 성장했다. 앤트로픽은 클로드 3.7 소넷을 출시한 직후 클로드 앱의 주간 활성 사용자가 21% 증가한 것으로 나타났다.
한편 오픈AI에 따르면 지난달 31일 기준으로 1시간 만에 챗GPT 신규 사용자 100만명이 추가됐다. 현재 챗GPT의 주간 사용자는 5억명, 유료 구독자는 2000만명 수준이다.
GPU 개수·성능이 LLM 품질 결정
GPU 확보 못 하면 경쟁사에 밀릴 수도
일러스트=챗GPT
30대 직장인 김모씨는 평소 업무에 생성형 인공지능(AI) ‘챗GPT’를 자주 이용한다. 외국인 고객에게 보내는 메일을 작성하거나 자료를 검색할 때 챗GPT에 조언을 구하기도 한다. 그러나 최근 사진을 ‘지브리풍’ 스타일 등의 그림으로 바꾸는 기능이 유행한 후 챗GPT의 대답이 느려진 느낌을 받았다.
김씨는 “평소에는 10초면 나올 간단한 설명이나 번역도 30초, 1분이 지나도 나오질 않는다”라며 “챗GPT가 과부하가 걸린 느낌”이라고 전했다.
오픈AI의 이미지 생성 AI 모델 ‘챗GPT-4o 이미지 제너레이션’(이미지젠) 수요가 폭발하면서 챗GPT가 시스템 과부하에 몸살을 앓고 있다. 업계에서는 오픈AI가 AI 모델 구동에 필수 부품인 그래픽처리장치(GPU)를 확보하지 못한다면 장기적으로 앤트로픽, 퍼플렉시티 같은 경쟁자들에 밀릴 수 있다는 분석을 내놓고 있다.
올트먼이 ‘10만개’ 달라고 사정한 GPU
샘 올트먼 오픈AI 최고경영자(CEO)는 지난 1일(현지시각) X를 통해 챗GPT 이미지젠을 이용하려는 가입자가 급증하면서 일부 기능이 느려질 수 있다고 했다. 올트먼 CEO는 “우리는 상황을 통제하고 있지만, 오픈AI의 새로운 서비스가 지연되거나, 일부 기능이 제대로 작동하지 않거나, 용량 문제로 인해 서비스가 때때로 느려질 수 있다는 점을 고려해 주기 바란다”라고 밝혔다.
올트먼 CEO는 또 “10만개의 GPU를 확보할 수 있다면 최대한 빨리 연락을 해달라”라고 언급했다. 앞서 그는 지난달 27일에도 “오픈AI의 GPU가 녹아내리고 있다”며 챗GPT 이미지젠의 인기를 알린 바 있다.
GPU는 거대언어모델(LLM)의 업무 수행 능력을 결정하는 핵심 하드웨어다. GPU 성능이 좋을수록 생성형 AI의 훈련과 대답 속도가 빨라지고, 복잡한 작업을 효율적으로 처리한다. 예컨대 과거 이세돌과 바둑 대결을 펼쳤던 구글 알파고에 들어간 GPU는 280개였다. 하지만 GPT-4의 경우 2만5000개의 엔비디아 A100 GPU가 들어간 것으로 파악됐다.
이미지젠 인기가 되려 악재?
오픈AI가 GPU를 추가로 확보하지 못하면 서버 과부하 사태가 당분간 지속될 것으로 보인다. 오픈AI는 유료 구독자만 사용할 수 있는 딥리서치도 조만간 무료 이용자들에게 개방할 예정이다. 딥리서치는 심층 검색과 추론을 통해 전문가 수준의 연구용 보고서를 작성하는 AI 에이전트다.
오픈AI의 경쟁사인 구글, 앤트로픽, 퍼플렉시티 등은 챗GPT를 겨냥해 각각 생성형 AI 모델을 출시하고 고객 확보에 공격적으로 나서고 있다. 데이터 분석 업체 센서타워에 따르면 올 3월 기준 구글 제미나이의 웹 트래픽은 하루 평균 1090만명을 기록하며 전월 대비 7.4% 증가했다. 마이크로소프트(MS) 코파일럿(Copilot)은 하루 240만명이 방문하며 2.1% 성장했다. 앤트로픽은 클로드 3.7 소넷을 출시한 직후 클로드 앱의 주간 활성 사용자가 21% 증가한 것으로 나타났다.
한편 오픈AI에 따르면 지난달 31일 기준으로 1시간 만에 챗GPT 신규 사용자 100만명이 추가됐다. 현재 챗GPT의 주간 사용자는 5억명, 유료 구독자는 2000만명 수준이다.