한국과학기술원(KAIST·카이스트)과 국가보안기술연구소 연구진이 개발한 AI 댓글 탐지 기술이 시연되고 있는 화면. 카이스트 제공

생성형 인공지능(AI)이 만든 한국어 댓글을 가려낼 여론조작 탐지 기술이 처음 나왔다. 김용대 한국과학기술원(KAIST·카이스트) 전기및전자공학부 교수와 국가보안기술연구소(국보연) 연구진은 AI가 생성한 한국어 댓글을 탐지하는 기술을 개발했다고 23일 밝혔다.

최근 생성형 AI는 기사의 맥락에 맞춰 감정과 논조까지 조절할 수 있을 정도로 발전했다. 단 몇 시간 만에 수십만 개의 댓글을 자동 생성할 수 있어 여론조작에 악용될 가능성도 높다. 구글딥마인드의 지난해 보고서에 따르면 2023년 1월부터 지난해 3월까지 생성형 AI 오남용 사례의 26.5%가 여론조작이었다.

한국에서도 AI 자동 댓글 프로그램이 판매되는 등 여론조작의 우려가 있지만, 그간 개발된 탐지 기술은 대부분 영어나 장문의 글 중심이었다. 연구진은 이에 착안해 50자 이내의 짧은 한국어 댓글에 대해 AI가 생성했는지 여부를 탐지할 수 있는 기술을 개발했다.

연구진은 우선 한국어 뉴스에 달린 실제 댓글 100만여 건을 14개 대형언어모델(LLM)에 학습시켜 약 100만 건의 합성 댓글을 생성했다. 이후 인간 평가자 4명이 총 140개의 AI 댓글과 70개의 사람 작성 댓글을 1차 분석한 결과, AI 댓글이 사람이 쓴 댓글보다 맥락 관련성이 높고 문장 유창성이 뛰어나다고 평가했다. 또 사람 작성 댓글은 50%가 편향적이라고 평가된 반면, AI 생성 댓글은 33%만 편향적으로 인식됐다.

연구진이 그 이유를 '설명가능한AI(XAI)' 기법으로 분석했더니 AI와 사람의 차이점이 구체적으로 드러났다. AI 댓글은 ‘~것 같다’, ‘~에 대해’처럼 형식적이고 중립적인 문장을 자주 쓰는 반면, 사람 댓글은 자신의 생각이나 감정을 직접 표현하는 경향을 보였다. 또 AI가 세계적으로 표준화한 이모지를 활용하는 데 반해 사람은 한국 문화의 특성을 활용한 구어체를 썼다. 예를 들어 ‘ㅋㅋ’, ‘ㅎㅎ’ 같은 반복 문자 비율은 사람 댓글에서 52%였지만, AI 댓글엔 12%만 등장했다. 사람 댓글에는 줄바꿈이나 띄어쓰기 등의 서식 문자가 26% 포함된 반면, AI 댓글엔 단 1%인 것도 큰 차이다.

연구진은 이 같은 특성을 정교하게 반영해 탐지 기술의 성능을 98.5%까지 높였다. 특히 AI 댓글이 어떤 LLM모델로 생성됐는지도 확인할 수 있다. 고우영 국보연 선임연구원은 “이번 연구는 AI 여론조작 대응의 기술적 기반을 마련했지만, 내용만 탐지하는 것은 한계”라며 “플랫폼과 협력해 댓글 작성 시간, 계정 정보, 인터넷 주소(IP) 등 추가 데이터를 함께 활용한 기술을 개발해야 여론조작을 궁극적으로 막을 수 있을 것”이라고 말했다.

한국일보

신혜정 기자 ([email protected])