국내 한 기업이 제공하는 인공지능(AI) 탐지 서비스를 이용한 결과물. GPT-4 기반 챗GPT를 활용해 생성해낸 AI 창작물이지만 표절률은 12%에 그쳤다.

[서울경제]

인공지능(AI) 기술이 급속도로 발전하는 가운데 AI로 만들어낸 글을 잡아낼 수 있는 각종 ‘AI 판별 서비스’가 시장 안착에 실패하고 있는 것으로 나타났다. AI 판별은 보통 AI가 생성해내는 글이 가지는 특징을 분석해 유사 글을 잡아내는 방식으로 이뤄지는데 사람이 몇 가지 표현을 고치는 방식으로 개입하게 되면 정확도가 크게 낮아진다는 것이 AI 전문가들의 설명이다. 자기소개서 등 주요 서류를 AI를 활용해 작성하는 경우가 많아지면서 이에 대응해야 하는 기업들은 고심에 빠졌다.

3일 산업계에 따르면 국내 AI 스타트업 무하유는 채용 플랫폼 잡코리아에서 제공하고 있는 AI 자기소개서 판별 서비스를 추후 업데이트하지 않기로 했다. 이같은 결정의 이유는 저조한 이용률이다. 이 서비스는 2022년 11월 챗GPT 출시 이후 약 4개월이 지난 지난해 3월 출시돼 시장의 관심을 끌었지만 기업들의 실제 이용률은 좀처럼 높아지지 않고 있다. 이용 가격은 공고 1건당 3만 3000원으로 높은 수준이라 보기는 어렵다. 저조한 이용률의 원인으로는 오류 가능성이 꼽힌다. 한 기업의 채용 담당자는 “AI 판별 서비스가 맞을 수도 있겠지만 혹여나 틀릴 시 적격자를 탈락시킬 수도 있어 실제 도입하기는 쉽지 않다”고 말했다.



AI 생성물을 또 다른 AI 시스템을 활용해 걸러내는 것은 주로 AI 글이 가지는 특징을 분석한 후, 유사 특성을 가진 글을 AI 생성물로 분류하는 방식으로 이뤄진다. 오픈AI나 챗GPT나 구글 제미나이 등 AI 모델은 모두 글을 생성할 때 문맥상 특정 단어 뒤에 올 확률이 가장 높은 단어를 기계적으로 배치하는 방식으로 작동하기에 이런 특성을 파악하면 AI 생성물을 판별할 수 있다는 추정에 기초한 방식이다. 하지만 사람이 일부 표현을 고치는 등 개입하면 정확도가 낮아지는 문제가 있어 오픈AI는 지난해 1월 출시한 ‘AI 텍스트 판독기’ 서비스를 같은 해 7월 ‘낮은 정확도’를 이유로 접었다.

AI를 활용한 자기소개서 등을 걸러내야 하는 일선 기업들은 면접 전형을 더 강화하는 방향으로 대응하고 있다. 현대차그룹 관계자는 “자체적으로 자기소개서 표절 관련 기술을 적용하고 있다”면서도 “면접 과정을 통해서 지원자를 검증할 수 있기 때문에 AI 자소서에 대해 크게 신경쓰고 있지는 않다”고 말했다. 또 다른 대기업 관계자는 “자기소개서를 통해 당락을 가르는 것이 어려워져 결국 직접 마주보고 검증하는 면접을 강화할 수밖에 없다”고 전했다.

최병호 고려대 인공지능연구소장은 “AI 작성 글을 잡아내는 것은 이론적으로 가능하지만 이건 사람이 창작물에 개입하지 않는다는 전제 하의 이야기”라며 “사람이 문장을 추가하고 표현을 고치면 사실상 AI 창작물을 잡기 어려워진다”고 분석했다. 최 소장은 이어 “앞으로 굉장히 빠른 시일 내에 대부분 창작물에 AI가 개입하는 시대가 올 것”이라며 “이에 대한 대비책이나 사회적 공감대를 마련해둘 필요가 있다”고 말했다.

서울경제

이덕연 기자([email protected])