챗GPT
[로이터 연합뉴스 자료사진]

(서울=연합뉴스) 이승연 기자 오인균 인턴기자 = "챗GPT를 사용한 적이 없는데 인공지능(AI) 생성률이 70%가 나왔어요. 안 썼다는 것을 어떻게 증명해야 하나요?"

서울 한 대학 사회학과 재학생 오모(22) 씨는 지난 1일 이렇게 말하며 황당해했다.

전공 수업 과제로 보고서를 작성해 제출했는데, 'AI 의심 문장이 많으니 주의하라'는 교수의 메일을 받았다는 것이다.

오씨는 "참고 자료를 찾거나 개요를 짤 때도 챗GPT를 사용한 적이 없고 전부 직접 썼다"며 "그런데도 AI 판독 비율이 70%가 나왔다. 교수에게 증명할 방법이 없으니 결국 다시 써서 제출했다"고 하소연했다.

챗GPT가 등장한 지 2년 반.

생성형 AI가 발전에 발전을 거듭하는 가운데 한편에서는 생각지도 못한 '부작용'을 호소하는 목소리가 나온다. AI의 도움을 받지 않았음에도 AI를 활용했다는 '누명'을 쓴다는 주장이다.

GPT킬러 이용 화면
[GPT킬러 캡처. DB 및 재판매 금지]

텍스트, 이미지, 기타 미디어를 생성할 수 있는 생성형 AI는 미국 오픈AI가 2022년 11월 챗GPT를 선보인 후 사회 각 분야를 점령했다.

특히 교육계를 중심으로 뭐든지 뚝딱 만들어 내는 생성형 AI를 활용한 과제 수행을 어디까지 허용해야 하느냐가 뜨거운 논란이다.

지난해 3월 고용노동부와 한국고용정보원이 발표한 '2023년 하반기 기업 채용동향조사'에 따르면 기업은 챗GPT로 자기소개서를 작성한 것이 확인되면 '감점'(42.2%)이나 불합격(23.2%) 등 불이익을 주겠다고 답했다.

매출액 상위 500대 기업의 인사담당자(315곳 응답)를 대상으로 한 조사로, 취준생들 사이에서 챗GPT의 도움을 받는 게 그만큼 일반화됐다는 방증이다.

그런데 이런 상황에서 '결백'하다며 억울함을 호소하는 목소리들이 고개를 들고 있는 것이다.

7일 현재 대학 온라인 커뮤니티 '에브리타임'에서도 오씨와 유사한 사연을 쉽게 확인할 수 있다.

고려대 에브리타임 이용자들은 "내가 썼는데 왜 챗GPT가 썼다고 하느냐", "복학하니까 이상한 표절 검사가 생겨서 고통받는다", "GPT 탐지기 만든 사람 천벌 받았으면 좋겠다" 등 억울함을 호소했다.

연세대 에브리타임 한 이용자는 "챗GPT 잡는 방법이 존재하는 것은 맞나"라며 "'GPT제로'(미국의 AI 탐지기)도 정확성이 떨어지고 판정 오류 많다고 한다. 교수들이 어떤 생각인지 궁금하다"고 적었다.

최병호 고려대 AI 연구소 교수는 "챗GPT, 그록, 제미나이 등 각 생성형 AI는 버전마다 글을 작성하는 독특한 패턴이 있고, 이를 거꾸로 생각하면 패턴 탐지와 무력화가 충분히 가능하다는 뜻이 된다"고 설명했다.

그러면서 "베낀 것을 탐지하는 것, 베낀 것이 아닌데 베꼈다고 오판하는 것, 베낀 것을 그렇게 보이지 않도록 회피하는 것 모두 가능하다"고 지적했다.

실제로 앞서 아랍에미리트(UAE)에 있는 뉴욕대 아부다비(NYUAD)의 탈랄 라완·야시르 자키 교수팀이 2023년 8월 발표한 조사 결과에 따르면 GPT제로와 오픈AI의 'AI 텍스트 탐지기'의 오판율은 각각 31.55%, 49.37%였다.

두 탐지기는 챗GPT가 작성한 답안 10개 중 3∼5개를 학생이 작성했다고 잘못 분류했다.

"GPT가 쓴 글이 아닌데, 왜…"
[연세대 에브리타임 캡처. DB 및 재판매 금지]

취업 준비생의 고민도 깊어졌다. 자기소개서를 작성할 때도 AI처럼 보이지 않기 위해 탐지기를 돌리는 일이 당연시된 지 오래다.

취업 준비생 전모(25) 씨는 "상투적인 문장이나 딱 봐도 AI가 쓴 것 같은 글은 감점 요소가 될 수 있어서 신경 써서 고친다"며 "직접 쓴 자소서였는데도 GPT킬러가 잘못 탐지한 적도 있었다"고 말했다.

이어 "여러 사이트를 돌아다니면서 글을 검증하다 보면 안 그래도 준비할 것이 많은데 일이 하나 더 늘었다"고 분통을 터뜨렸다.

또다른 취업 준비생 황모(27) 씨도 "기업 입장에서 AI 검수 과정을 거치는 것도 이해는 가지만, 행여나 'AI스럽게' 보일까 봐 신경을 써야 한다는 게 억울하다"고 말했다.

AI 탐지기 이용 비용도 적지 않아 학생들은 부담을 호소했다. 국내 대표적인 챗GPT 탐지 서비스 'GPT킬러'의 1건당 이용 요금은 9천900원이다.

대학생 김모(25) 씨는 "과제를 제출할 때마다 1만원에 가까운 돈을 쓰려니 부담이 된다"며 "교수님 성향상 탐지기 검사를 꼭 할 것 같은 분들을 추려 최대한 아껴가면서 이용하고 있다"고 했다.

이렇다 보니 온라인에는 'AI 탐지기를 속이는 방법'도 공유되고 있다.

직접 작성한 글이 'AI스럽게' 보이지 않게끔 챗GPT에 "GPT 킬러에 걸리지 않도록 자연스럽고 독창적으로 작성해 줘"라고 명령하는 식이다.

전씨는 "탐지기를 사용한 뒤 생성률이 높게 나오면 연결어·부사·대명사 등을 수정하고 동의어로 바꾸거나 문장을 합치고 쪼갠다"면서 "여러 AI에 같은 질문을 하고 제일 좋은 문장들만 퍼즐처럼 맞춰서 구성하기도 한다"고 했다.

이 외에도 단어 선택을 다양화하기, 구어체 활용하기 등 다양한 회피 방법이 공유되고 있다.

GPT킬러는 홈페이지를 통해 "사람이 작성했더라도 문장을 이루고 있는 단어의 구성에 따라 챗GPT가 작성했다고 판단할 수 있다"며 "기계로 썼을 확률이 높은 단어로 구성됐다는 얘기는 문장을 구성하는 단어가 단조롭거나 평이한 경우가 많다는 이야기"라고 안내하고 있다.

AI 활용 (PG)
[강민지 제작] 일러스트

최 교수는 "단순히 베꼈느냐, 아니냐를 판단하는 시대는 지났다. 이제는 관점을 바꿔야 할 때"라고 짚었다.

그러면서 "AI를 쓰는 것을 모두 인정해야 한다"며 "'사람이 쓰지 않았을 수 있다'를 넘어 더 나아가 '꼭 사람이 써야 하는가?'를 고민해야 한다"고 지적했다.

최 교수는 "기업과 학교의 평가 기준도 바뀌어야 한다"며 "보고서 대신 대면 문답 형식으로 학습 수준을 판단하거나, 지원자가 AI를 통해 필요한 정보를 적절하게 잘 뽑아내는지 등을 평가해야 한다"고 제안했다.

백은경 이화여대 인공지능대학 교수도 "중요한 것은 기술이 발전할 때마다 예기치 못한 부작용이 존재한다는 것을 사람들이 인지하는 것"이라며 "알고 있으면 대처가 가능하다. 완벽하다고 맹신할 때 문제가 발생한다"고 했다.

이어 "요즘에는 학교에서 AI를 적극적으로 쓰고, 어떻게 하면 잘 쓸 수 있는지를 가르치는 추세"라며 "AI에 대한 인식을 맞춰가는 과정에 있다고 보면 될 것 같다"고 덧붙였다.

[email protected]

연합뉴스

이승연([email protected]) 오인균([email protected])