오는 6월 3일로 예정된 제21대 대통령선거를 앞두고 정치인을 표적삼은 딥페이크 영상과 사진이 빠르게 퍼지고 있다. 셔터스톡
오는 6월 3일 제21대 대통령선거를 앞두고 주요 정치인을 표적 삼은 딥페이크 영상이 소셜네트워크서비스(SNS) 등을 통해 퍼지고 있다. 선거 운동 목적의 딥페이크 영상 제작·유포자를 처벌하는 공직선거법 규정이 있음에도, 인공지능(AI)을 활용한 네거티브가 근절되지 않고 있다는 우려가 나온다.
13일 각종 SNS에서 ‘정치인 딥페이크’ 등의 키워드를 검색해보니 주요 대선 주자를 타깃으로 한 딥페이크 영상들이 상단에 다수 노출됐다. 한 친(親)민주당계 인플루언서의 엑스(X·옛 트위터) 계정엔 윤석열 전 대통령이 한동훈 전 국민의힘 대표의 가발을 벗기는 모습을 만들어낸 딥페이크 영상이 지난 9일부터 올라와 있었다. 해당 게시물은 이날 기준 조회 수 139만회를 기록하고, 1977회 재게시됐다.
숏폼 동영상 플랫폼 틱톡의 한 계정엔 이재명 전 더불어민주당 대표가 경찰서 유치장에 갇혀 있는 모습이 담긴 딥페이크 영상이 지난달 26일 올라왔다. 또 다른 틱톡 계정엔 ‘차기 대통령 선거 여권 후보 최강 라인업’이란 제목으로 홍준표 전 대구시장, 김문수 전 고용노동부 장관, 안철수 국민의힘 의원 등을 모두 희화화하는 내용의 딥페이크 영상이 지난 2월부터 버젓이 올라와 있었다.
지난달 26일 숏폼 동영상 플랫폼 틱톡의 한 계정에는 이재명 전 더불어민주당 대표가 유치장에 수감된 딥페이크 영상이 올라왔다. 틱톡 캡쳐
SNS를 통해 딥페이크 영상이 우후죽순 올라오는 이유는 제작이 손쉽기 때문이다. 한 생성형 AI 프로그램을 이용해서 여·야 주요 대선 주자들이 춤추고 노래하며 선거 운동을 하는 영상을 만들어 보니 제작에 2분이 채 걸리지 않았다.
정치권도 딥페이크 네거티브에 촉각을 곤두세우고 있다. 더불어민주당 이재명 예비후보 캠프는 지난 11일 “이 예비후보가 김혜경 여사에게 욕하는 동영상이라는 내용의 딥페이크 영상을 만들어 유포를 시도한다는 제보가 선거대책위원회에 접수됐다”며 “딥페이크 영상이 유포된다면 즉시 유포 중지 가처분 및 고발 등 모든 수단을 동원해 법적 책임을 묻겠다”고 했다.
생성형 AI 활용이 날로 대중화되면서 이번 대선에서도 영향을 미칠 수 있단 우려가 나온다. 앞서 선거관리위원회는 지난해 4월 10일 치러진 22대 총선 기간 중 딥페이크 선거운동 게시물을 388건 적발했다. AI가 생성한 가짜 윤 전 대통령이 이 전 대표를 향해 “민생 걱정한다는 애가 국민들 갈라치기에만 몰두하냐”고 비난하는 영상 등이었다. 세계 최초로 AI 생성물의 워터마크 표시를 의무화한 ‘AI 기본법’은 내년 1월 시행 예정이기 때문에 이번 대선 기간 중 제작된 딥페이크 영상에는 적용할 수 없다.
지난 2월 한 틱톡 계정에는 안철수 국민의힘 의원이 공천 개입 의혹을 받는 명태균씨와 찍은 사진을 활용한 딥페이크 영상이 올라왔다. 이 영상 제작자는 안 의원을 어디론가 도망가는 모습으로 연출하는 등 국민의힘 소속 대권 주자를 희화화했다. 틱톡 캡쳐
딥페이크 영상으로 선거운동을 벌이면 무겁게 처벌받을 수 있다. 국회는 2023년 12월 공직선거법(82조8)을 개정해 선거일 전 90일부터 선거일까지 선거운동을 위해 AI로 실제와 구분하기 어려운 딥페이크 영상 등을 제작·편집·유포·상영·게시하는 행위를 금지했다. 이를 위반하면 7년 이하의 징역 또는 1000만 원 이상 5000만 원 이하 벌금에 처한다. 장영수 고려대 법학전문대학원 교수는 “공식적인 선거 캠프에서 활동하는 사람은 아니더라도 선거 목적으로 딥페이크 영상을 게시했다면 처벌 대상이 돼야 한다”고 말했다.
경찰이 해당 조항을 적용해서 처벌한 사례는 아직 없지만, 정보통신망법상 명예훼손 또는 모욕죄가 적용돼 처벌받을 가능성도 있다. 경찰 관계자는 “딥페이크 제작물을 통해 허위 사실을 공표하거나 비방하는 경우 공직선거법이 아니더라도 정보통신망법상 명예훼손 또는 모욕죄에 따라 처벌될 수 있다”고 강조했다. 경찰은 전국 278개 경찰서에 선거사범 수사 상황실을 설치해서 딥페이크 관련 선거 범죄를 집중 단속할 계획이다.
