[서울경제]

조기 대선을 앞두고 정치인을 겨냥한 딥페이크 허위 영상이 급증하며 딥페이크 판별 기술이 선거철 여론전에서 승리하기 위한 새로운 무기로 주목받고 있다. 딥페이크 영상은 손쉽게 만들어지지만 일단 유포되고 나면 진위를 판별하기 까다롭고 선거에 미치는 파급력이 크다는 점에서 관련 기술을 보유한 소수의 인공지능(AI) 기반 신생 기업들에 ‘대선 특수’ 가 열렸다는 평가도 나온다.

16일 서울경제신문 취재를 종합하면 최근 딥페이크 탐지 기술을 보유한 스타트업들은 대선을 앞두고 정치인 딥페이크물 판별 의뢰가 들어올 경우 어떻게 대응할지 활발히 검토하고 있다. 디지털 범죄 대응 전문 기업인 라바웨이브는 몸캠 피싱, 리벤지 포르노 등 디지털 성범죄를 중점적으로 다뤄왔지만 선거철에는 정치인 딥페이크 영상이 크게 늘어날 것을 예상하고 사전 준비에 나섰다. 라바웨이브의 한 관계자는 “선제적으로 국회의원 및 주요 대선 주자들과 접촉 중”이라면서 “자사의 AI 기반 영상물 탐지 솔루션인 ‘라바스캐너’를 지속적으로 업그레이드하고 있다. 정치인 얼굴 사진 하나만 투입하면 유사 영상·이미지를 모두 찾아내 판별한 뒤 삭제 요청까지 가능한 수준”이라고 설명했다.



또 다른 AI 기반 스타트업인 딥브레인AI도 선거철을 앞두고 내부에서 유사 논의를 진행하고 있다. 딥브레인AI 관계자는 “과거에도 딥페이크 범죄 사건으로 큰 논란이 일었을 때 기업·관공서·교육기관 등에 자사 판별 솔루션을 지원한 적이 있다”면서 “선거철에 또 검증 문의가 많이 올 경우 어떻게 할지 고민 중”이라고 전했다.

딥페이크 기술 악용 사례는 그간 디지털 성범죄가 대부분이었지만 최근 비상계엄·탄핵·대선 등 대형 사건이 잇따르며 정치인을 대상으로 한 모욕죄 및 공직선거법 위반 사례도 급증하고 있다. 여기에 챗GPT 열풍을 계기로 AI 이미지 기술이 대중화한 결과 이미 틱톡과 인스타그램 등 소셜네트워크서비스(SNS), 온라인 커뮤니티에서는 정치인 딥페이크 영상이 수백만 건에 달하는 조회 수를 기록하며 유포되고 있다. 특히 윤석열 전 대통령 부부와 이재명 전 더불어민주당 대표, 한동훈 전 국민의힘 대표 등이 주요 조작 대상인 것으로 파악됐다. 이 전 대표 캠프는 이날 딥페이크 영상을 제작·유포한 유튜버를 16일 서울경찰청에 고발하겠다고 밝혔다.

이 때문에 6·3 대선이 공정하게 시행되려면 정치인 관련 딥페이크물을 최대한 빨리 탐색하고 이에 대한 진위를 가린 뒤 제재하는 것이 관건이라는 지적이 나온다. 경찰도 지난해 자체 개발한 딥페이크 탐지 프로그램을 본격적으로 활용할 것으로 보인다. 경찰청 관계자는 이날 “해당 프로그램을 개발한 뒤 사실상 디지털 성범죄에만 활용돼왔다”면서 “지난해 3월 윤 전 대통령을 풍자한 짜깁기 영상을 분석한 뒤로는 정치인 관련 의뢰가 전무했지만 추후 필요시 얼마든지 활용 가능할 것”이라고 전했다.

한편 이번 조기 대선은 ‘AI 발전과 신뢰 기반 조성 등에 관한 기본법’이 내년 1월 시행되기 전에 치러지는 마지막 전국구 선거다. 추후 딥페이크물에 대한 투명성 확보 및 워터마크 표시 의무가 법제화될 경우 이를 가려내는 기술 수요가 더욱 커질 것으로 예상된다. 이날 한 스타트업 관계자는 “법이 시행된다면 공기업·수사기관에 탐지 프로그램을 납품하는 사례도 늘 것”으로 전망했다.

서울경제

장형임 기자([email protected]),박민주 기자([email protected])