메뉴 건너뛰기

실제, 합성 댓글 각 100만 건 분석
AI가 맥락 관련 높고 문장 더 유창
반복·서식 문자 적고 중립적 표현
"여론조작 대응할 기술 기반 마련"
한국과학기술원(KAIST·카이스트)과 국가보안기술연구소 연구진이 개발한 AI 댓글 탐지 기술이 시연되고 있는 화면. 카이스트 제공


생성형 인공지능(AI)이 만든 한국어 댓글을 가려낼 여론조작 탐지 기술이 처음 나왔다. 김용대 한국과학기술원(KAIST·카이스트) 전기및전자공학부 교수와 국가보안기술연구소(국보연) 연구진은 AI가 생성한 한국어 댓글을 탐지하는 기술을 개발했다고 23일 밝혔다.

최근 생성형 AI는 기사의 맥락에 맞춰 감정과 논조까지 조절할 수 있을 정도로 발전했다. 단 몇 시간 만에 수십만 개의 댓글을 자동 생성할 수 있어 여론조작에 악용될 가능성도 높다. 구글딥마인드의 지난해 보고서에 따르면 2023년 1월부터 지난해 3월까지 생성형 AI 오남용 사례의 26.5%가 여론조작이었다.

한국에서도 AI 자동 댓글 프로그램이 판매되는 등 여론조작의 우려가 있지만, 그간 개발된 탐지 기술은 대부분 영어나 장문의 글 중심이었다. 연구진은 이에 착안해 50자 이내의 짧은 한국어 댓글에 대해 AI가 생성했는지 여부를 탐지할 수 있는 기술을 개발했다.

연구진은 우선 한국어 뉴스에 달린 실제 댓글 100만여 건을 14개 대형언어모델(LLM)에 학습시켜 약 100만 건의 합성 댓글을 생성했다. 이후 인간 평가자 4명이 총 140개의 AI 댓글과 70개의 사람 작성 댓글을 1차 분석한 결과, AI 댓글이 사람이 쓴 댓글보다 맥락 관련성이 높고 문장 유창성이 뛰어나다고 평가했다. 또 사람 작성 댓글은 50%가 편향적이라고 평가된 반면, AI 생성 댓글은 33%만 편향적으로 인식됐다.

연구진이 그 이유를 '설명가능한AI(XAI)' 기법으로 분석했더니 AI와 사람의 차이점이 구체적으로 드러났다. AI 댓글은 ‘~것 같다’, ‘~에 대해’처럼 형식적이고 중립적인 문장을 자주 쓰는 반면, 사람 댓글은 자신의 생각이나 감정을 직접 표현하는 경향을 보였다. 또 AI가 세계적으로 표준화한 이모지를 활용하는 데 반해 사람은 한국 문화의 특성을 활용한 구어체를 썼다. 예를 들어 ‘ㅋㅋ’, ‘ㅎㅎ’ 같은 반복 문자 비율은 사람 댓글에서 52%였지만, AI 댓글엔 12%만 등장했다. 사람 댓글에는 줄바꿈이나 띄어쓰기 등의 서식 문자가 26% 포함된 반면, AI 댓글엔 단 1%인 것도 큰 차이다.

연구진은 이 같은 특성을 정교하게 반영해 탐지 기술의 성능을 98.5%까지 높였다. 특히 AI 댓글이 어떤 LLM모델로 생성됐는지도 확인할 수 있다. 고우영 국보연 선임연구원은 “이번 연구는 AI 여론조작 대응의 기술적 기반을 마련했지만, 내용만 탐지하는 것은 한계”라며 “플랫폼과 협력해 댓글 작성 시간, 계정 정보, 인터넷 주소(IP) 등 추가 데이터를 함께 활용한 기술을 개발해야 여론조작을 궁극적으로 막을 수 있을 것”이라고 말했다.

한국일보

번호 제목 글쓴이 날짜
51268 김건희 일가 요양원, 14억 부당 청구 적발···건보공단 환수·고발 검토 new 랭크뉴스 2025.06.23
51267 KBS, 수신료 인상 재추진한다…"45년째 동결, 현실화 필요" new 랭크뉴스 2025.06.23
51266 학대 논란 '김건희 일가 요양원' 14억원 환수...형사고발 여부도 심의 new 랭크뉴스 2025.06.23
51265 '족쇄' 풀리자 수시로 찾아가‥경찰 적극 개입했더라면 new 랭크뉴스 2025.06.23
51264 이란 공습 소식에 연설 멈춘 샌더스…“트럼프는 권리가 없다” new 랭크뉴스 2025.06.23
51263 우선순위 밀리고 비용 압박 커지고…‘이란 사태’ 한반도 영향은? new 랭크뉴스 2025.06.23
51262 [美 이란 공격] 美당국자 "이란, 이틀내 중동 미군에 보복 가능성" new 랭크뉴스 2025.06.23
51261 3번의 무단침입, 2번의 구속기각 "죽어야 벌받나" new 랭크뉴스 2025.06.23
51260 WSJ “이스라엘, 이란과 충돌 곧 끝내길 기대” new 랭크뉴스 2025.06.23
51259 막오른 청문정국 대치…내일 김민석 이어 줄줄이 장관 청문회 new 랭크뉴스 2025.06.23
51258 ‘문민’ 국방 ‘AI’ 과기…농식품은 ‘유임’ 실용에 방점 new 랭크뉴스 2025.06.23
51257 지역화폐 月 200만원까지 발행… 소비 촉진 위해 구매한도 대폭 상향 new 랭크뉴스 2025.06.23
51256 이 대통령 “진영 달라도 능력 있다면 기회 줄 수 있어”…송미령 유임 설명 new 랭크뉴스 2025.06.23
51255 김민석 후보 핵심 의혹은?…김민석 “사수” vs “사퇴” 여야 격돌 new 랭크뉴스 2025.06.23
51254 공수처 '고발사주' 제보자 조사‥'윤석열 기획' 다시 살핀다 new 랭크뉴스 2025.06.23
51253 군은 ‘개혁’, 외교·남북관계는 ‘역량 복원’…위기 대응형 인선 new 랭크뉴스 2025.06.23
51252 李대통령, 장관급 12명 인사…기업인·尹정부 인사·현역 의원 [프로필] new 랭크뉴스 2025.06.23
51251 이스라엘, 미국에 바통 받아 이란 포르도 핵 시설 또 때렸다 new 랭크뉴스 2025.06.23
51250 김용현 구속심문 연기‥계엄군 수뇌부도 추가기소 new 랭크뉴스 2025.06.23
51249 김종인 “이준석 비호감도 굉장히 높아, 개혁신당이 심각하게 생각해야” new 랭크뉴스 2025.06.23