생성형 AI에서 추론형 AI로 패러다임 전환 중
인간의 사고를 닮은 AGI에 대한 기대감 상승
인간의 사고를 닮은 AGI에 대한 기대감 상승
샘 올트먼 오픈AI 최고경영자(CEO). 사진=연합뉴스
오픈AI는 지난 2018년 최초의 GPT 모델인 GPT-1을 세상에 내놓았다. 이후 GPT-2(2019년), GPT-3(2020년), GPT-3.5(2022년), GPT-4(2023년) 등 거의 매년 새로운 버전을 출시하고 있다. 이 중 세간의 관심을 가장 많이 받았던 것은 현재의 생성형 AI 혁명을 가져온 챗GPT의 기반이 된 GPT-3.5 모델이다. GPT-3.5가 출시된 후 2년여가 지난 올 2월 27일 오픈AI는 자사의 주력 거대언어모델(LLM)의 신규 버전인 GPT-4.5 버전을 출시했다. 일명 오라이온(Orion)이라 불리는 GPT-4.5는 원래 GPT-5로 추정되는 오픈AI의 차세대 LLM의 프로젝트 코드명이다. 정식버전은 아니고 연구용 프리뷰(preview) 버전이다. 현재 월 200달러의 챗GPT 프로 계정을 가진 고객들은 이용이 가능하다. 마지막 비추론 모델 GPT-4.5 출시이번에 발표된 오픈AI의 GPT-4.5는 이전 버전보다는 성능과 효율성, 그리고 감성 면에서 한층 향상되었다.
우선 성능 면에서 보면 GPT-4o보다 연산 효율성이 10배 더 높아졌다. 정확도는 62.5%를 보여 GPT-4o의 38.2%보다 약 1.6배 향상되었다.
이는 더 많은 데이터와 사전 훈련된 언어 모델을 특정 작업이나 영역에 맞게 조정하는 과정을 거치다 보니 잘못된 정보가 많이 줄었기 때문이다. 환각도 줄었다. GPT-4.5의 환각율은 GPT-4o(59.9%)보다 22.7% 감소한 37.1%로 조사되었다.
기술적 성능 못지않게 감성지능(EQ)을 높여 사용자와의 상호작용이 더 자연스러워져 좀 더 인간적이고 깊이 있는 대화가 가능하다.
이러한 것은 GPT-4.5에 인간의 개입이 좀 더 강화된 추가적인 기술이 사용되었기 때문이다. 지도 학습 미세 조정(Supervised Fine-Tuning, SFT)과 인간 피드백을 통한 강화 학습(RLHF)과 같은 기존 기술이 그것이다.
SFT는 인간이 라벨을 붙인 데이터셋을 사용하여 모델의 성능을 세밀하게 조정하는 방식이고 RLHF는 인간의 피드백을 통해 AI 모델의 성능을 개선하는 학습 방식이다.
이처럼 한층 업그레이드된 GPT-4.5 버전에 대해 전문가들의 평가는 대체로 긍정적이다. 다만 한가지 공통적으로 제기되는 아쉬움은 기술적 혁신보다는 기존 모델 내에서의 진화에 치중한 것 같다는 평가이다.
대화의 효율성, 사용자 의도와의 일치, 응답의 정확성, 오용 방지를 위한 보안 강화 측면에서는 개선되었지만 혁신이나 게임의 판도를 바꿀 정도는 아니라는 것이다. 고도화된 범용 AI 시스템인 프런티어 모델이 아니라는 의견이 나오는 이유이다.
한편 이번 새로운 버전 발표에서 한가지 주목할 점은 오픈AI가 GPT-4.5를 마지막으로 더 이상 비추론형 AI 모델을 출시하지 않을 것이라는 발표이다.
오픈AI는 왜 더 이상 비추론 모델을 출시하지 않겠다고 하는 걸까. 인간의 사고방식을 담은 추론 모델현재 오픈AI의 AI 모델은 크게 두 가지 제품군으로 분류된다. 하나는 비추론 모델이다. 이번에 출시된 GPT-4.5가 이에 해당된다. 우리가 알고 있는 챗GPT의 기반이 되는 언어 모델인 LLM이 비추론 모델(Non-Inferential Model)이다.
비추론 모델은 추론 과정 없이 주어진 데이터를 활용하여 패턴을 학습하고 예측한다. 빠른 응답속도와 단순 질의응답에는 효율적이지만 복잡한 작업 처리에는 한계가 있다.
또 하나는 추론 모델이다. 2024년 9월 GPT-o1이 출시된 이후 o1-미니, o3, o3미니로 이어진 GPT-o시리즈가 여기에 해당된다. 오픈AI의 o시리즈 이외에도 구글의 제미나이2.0, 메타의 라마4 등이 대표적인 추론 모델이다. 추론 모델은 기존 학습형 AI에 비해 처리 속도는 느리지만 문제 해결 능력, 정확도, 신뢰성, 실시간 처리, 복잡한 의사결정 능력이 뛰어나다.
추론 모델은 기존의 학습형 모델로 주어진 텍스트 데이터를 바탕으로 다음에 올 단어를 확률적으로 예측하는 자연어 처리 사용 기법인 확률적 언어 모델링(Probabilistic Language Modeling)에다 몇 가지 기술방식이 추가된다.
첫째, 신경-상징적(Neuro-symbolic) 기술이다. 이 기술은 신경망(Neural Networks)과 상징적 AI(Symbolic AI)를 합친 것이다. 신경망 모델을 통해 강력한 데이터의 패턴을 학습한 후 상징적 추론의 해석 능력을 결합한다. 이를 통해 좀 더 유연하고 효과적으로 복잡한 문제 해결이 가능하다.
둘째, 다중 추론 체인(Multi-hop Reasoning Chain) 기술이다. 이 기술은 복잡한 문제를 해결하기 위해 여러 단계의 논리적 추론 과정, 즉 사고 과정을 거친다. 이로 인해 단일 단계의 추론에 비해 더 복잡하고 심층적인 분석이 가능하다.
마지막으로, 생각의 사슬(Chain-of-Thought, CoT) 기법이다. 인간과 유사한 사고 방식으로 단계별 추론 과정을 거쳐 복잡한 문제를 해결하는 방법이다. 예를 들어 문제를 정의하고, 관련 정보를 수집하고, 이를 분석하여 최종 결론을 도출하는 구조를 통해 최종 결론을 도출한다.
이러한 기술을 적용함으로써 추론형 AI 모델은 복잡한 문제를 세부문제로 나누어 단계별로 해결해 보다 깊이 있는 이해와 분석이 가능하다. 단순한 패턴 인식을 넘어 데이터 간의 관계와 의미 구조를 파악하고 이를 기반으로 문제를 해결하기 때문이다.
이런 측면에서 이번 GPT-4.5는 추론형 AI라기보다는 예측형 AI(Predictive AI)에 가깝다. 입력된 문장을 바탕으로 그다음에 올 단어를 예측하고 이를 반복하면서 전체 문장을 생성하는 방식이기 때문이다.
물론 GPT 4.5는 기존 버전 대비 더 빠르고 더 자연스럽게 반응하며, 인간이 사용하는 감정적 언어에 더 가깝게 처리한다는 장점이 있다. 하지만 인간의 지능에 가까운 문제해결 역량에는 한계가 존재한다.
이런 맥락에서 오픈AI가 향후 비추론 모델을 출시하지 않겠다는 발표는 AI 기술이 이제는 좀 더 고도화된 추론 능력을 가진 AI 모델로 전환되고 있음을 암시하는 대목이다. 추론 모델로의 진화가 갖는 의미약 2년 전 등장한 생성형 AI는 학습데이터를 기반으로 새로운 데이터나 콘텐츠를 생성하며 AI 기술의 일대 혁신을 가져왔다.
하지만 생성형 AI는 그 혁신적 역량 못지않게 환각, 데이터 편향성, 의사결정 과정의 투명성 결여, 높은 학습 및 유지보수 비용 등 한계에 직면하고 있는 것도 사실이다.
이런 맥락에서 최근의 AI 기술의 추세는 기존 데이터를 분석하고 논리적 결론을 도출하거나 문제를 해결하는 추론형 AI로 진화하고 있다고 봐야 할 듯하다. AI 4대 석학 중으로 꼽히는 앤드루 응 스탠퍼드대 교수도 ‘생각의 사슬’이 적용된 추론형 AI의 기술 발전으로 기존 기술을 뛰어넘는 큰 변화가 일어날 것이라 전망하고 있다.
오픈AI도 이번 GPT-4.5의 출시를 통해 사용자 경험 차원에서 추론 모델(Inferential Model)과 학습형 AI 같은 비추론 모델을 통합해 복잡한 모델들을 단순화하고 최종적으로 GPT-5를 개발할 계획임을 밝히고 있다. 이런 의미에서 GPT-4.5는 추론형 AI로의 전환을 앞둔 과도기적 모델로 봐야 할 것 같다.
결국 현시점에서 향후 AI 모델의 진화 방향은 명확해 보인다. 새로운 콘텐츠를 단순히 생성하거나 데이터 패턴분석을 기반으로 단순히 미래를 예측하기보다는 복잡한 문제 해결과 의사결정을 지원하는 등 좀 더 인간의 지능에 가까운 강력하고 효율적인 AI 모델을 개발하는 방향으로 간다는 것이다.
심용운 동국대 대우교수