(위) 이재명 민주당 후보 캠프가 16일 서울경찰청에 선거법 위반으로 고발한 딥페이크 유튜브 영상 캡처. (아래) 최근 틱톡 등 SNS를 중심으로 확산한 한동훈 국민의힘 후보와 윤석열 전 대통령 딥페이크 영상 캡처.
#1. “딥페이크 고발은 무조건이다. 나오는 대로 계속 고발한다.” 이재명 더불어민주당 대선 경선 후보 캠프는 최근 인공지능(AI) 기술을 이용한 흑색 비방 선전물에 무관용·강경 대응 원칙을 세웠다. 법률지원단 관계자는 20일 통화에서 “지금도 계속 게시물을 찾고 분석 중”이라며 “허위·조작 정보는 절대 용납하지 않는다”고 강조했다. 법적 조치가 외려 관심도를 높이는 부작용이 우려되지만 선제 대응을 통해 ‘떳떳함’을 강조하는 게 낫다는 전략이다.
#2. “대응하면 오히려 더 퍼지고 기정사실화 되는 것 아닌가.” 한동훈 국민의힘 대선 경선 후보 캠프 관계자들은 요즘 소셜미디어와 온라인 커뮤니티에 퍼지는 가짜 영상으로 골머리를 앓고 있다. 윤석열 전 대통령까지 동원해 한 후보의 외모를 비하하는 내용이라 자칫 ‘긁어 부스럼’이 될까 우려하는 것이다. 캠프 관계자는 “전담 변호사를 배정해 실시간 모니터링을 하고 있다”며 “한 번에 모아서 조치할 것”이라고 밝혔다.
6·3 대선을 앞두고 ‘딥페이크(Deepfake)’가 골칫덩이로 부상했다. 딥페이크는 딥러닝(Deep Learning)과 페이크(Fake)의 합성어로 AI 기술을 활용해 진짜처럼 보이는 가짜 영상을 만들어내는 걸 뜻한다. AI 기술 발전으로 누구나 손쉽게 특정 후보의 얼굴·목소리 등을 꾸며낼 수 있게 되면서 이를 활용한 음해·비방·인신공격 등이 겉잡을 수 없이 늘고 있다. 그래서 정치권이 ‘딥페이크와의 전쟁’에 나서야 할 판이 된 것이다.
실제 유력 대선 주자들은 이미 딥페이크 피해를 호소하고 있다. 이재명 후보 측 박수현 선대위 공보단장은 지난 11일 “이 후보가 김혜경 여사에게 욕설을 하는 내용의 딥페이크 영상 제작·유포 시도가 있다는 제보가 접수됐다”며 “과거 수사기관 조사를 받고 귀가한 김 여사에게 이 후보가 험악한 표현을 쓰며 나무라는 상황으로 설정된 영상”이라고 브리핑했다.
이성엽 고려대 기술경영전문대학원 교수는 “최근 챗GPT 배우기 열풍 등으로 특별한 전문 지식이 없는 사람도 영상 합성이 가능해졌다”며 “진짜같은 AI 가상 제작물이 치열한 비방전의 잘못된 도구로 쓰이고 있다”고 진단했다.
더불어민주당 이재명 후보 캠프 소속 의원들이 16일 서울경찰청 민원실에서 이 전 대표의 딥페이크 영상 유포 혐의를 받는 유튜버 등을 공직선거법 위반죄로 고발하고 있다. 연합뉴스
기술의 진보를 막을 수 없는 만큼 각 캠프는 일단 강경 대응 원칙을 세워 적극 대응하고 있다.
‘악마화 적극 대응’ 원칙을 내세운 이 후보 캠프는 지난 16일 보수 유튜버 성창경 씨 등 17명을 공직선거법 위반 혐의로 서울경찰청에 고발했다. 박균택 법률지원단장은 “이 후보가 박찬대 민주당 원내대표에게 욕을 섞어 지시하는 영상 등을 고발했다”고 전했다. 여기엔 마치 이 후보가 “같이 나라 말아먹자” “시진핑 형님께 속국 하나 추가했다”라고 말하는 것처럼 조작한 ‘대한 중화 인민 공화국’ 유튜브 영상이 포함됐다.
하지만 강경 대응이 불러올 부작용에 대한 우려 또한 커지고 있다. 민주당 보좌관은 “딥페이크 좌표가 하나 뜨면 상대 진영 유튜버들이 오히려 그걸 홍보 수단으로 쓴다”며 “조회수로 돈을 더 버니 벌금 좀 내고 만다는 식”이라고 토로했다. 국민의힘 미디어국 관계자는 “계엄 국면 때도 윤 전 대통령 등이 등장한 딥페이크 영상이 넘쳐났지만 고발에 이른 건 단 1건”이라며 “지난 대선이나 총선 때도 전부 고발하진 않았다”고 했다.
각 후보가 AI 분야에 최대 200조원 투자까지 공약하는 상황에서 처벌만이 능사가 아니라는 반론도 만만찮다. 한상희 건국대 법학전문대학원 교수는 “정치적 표현의 자유가 최대한 보장돼야 하는 선거 시기에 국가가 일괄 규제를 하는 것은 바람직하지 않다”며 “현실적으로 딥페이크 원천 차단이 불가능한 만큼 각 후보 차원의 민사 소송 대응과 정부 차원의 캠페인 등을 병행해야 한다”고 말했다.
중앙선거관리위원회는 지난 9일부터 검찰·경찰 및 네이버·카카오 등과 민·관 합동 특별대응팀을 꾸려 선거 딥페이크에 적극 대응 중이다. 지난해 1월 시행된 개정 선거법엔 위반시 최대 징역 7년형을 선고하는 딥페이크 영상 규제 조항(82조9)이 신설됐다.
해외에선…바이든 음성 조작한 스핀닥터에 벌금 82억원
한 스마트폰 사용자가 챗GPT 화면 앞에서 오픈 AI에 접속하는 모습. 전 세계 50개국 이상이 선거를 치른 지난해에는 딥페이크 선거전에 대한 국제적 우려가 급증했다. 연합뉴스
딥페이크로 인한 유권자 혼란은 한국만의 일이 아니다. ‘전 세계 선거의 해’로 불린 지난해를 기점으로 인공지능(AI)이 생성한 정치적 영상·이미지·음성 출현이 폭증했다. 규제와 처벌 논쟁도 함께 뜨거워졌다.
지난해 1월 미국에서 벌어진 ‘바이든 가짜 전화’ 소동이 대표적이다. 민주당 뉴햄프셔주의 대선 예비 경선 하루 전, 상당수 당원이 “11월 대선을 위해 표를 아끼라”는 조 바이든 당시 미 대통령의 목소리가 담긴 전화를 받았다. 목소리를 감쪽같이 복제한 딥페이크였고, 미 연방 정부는 음성 제작자인 정치 컨설턴트 스티브 크레이머를 검찰에 넘기고 벌금 82억원을 부과했다.
2023년 일본에서는 기시다 후미오 당시 일본 총리의 가짜 연설 영상이 확산했다. 기시다 총리의 음성 데이터를 학습한 AI가 입력된 스크립트를 읽는 다소 조악한 방식이었지만, 총리가 성적으로 음란한 내용을 연설하는 착각을 일으켜 파장이 컸다. 영상 제작자는 “재미로 만들었다”며 해당 영상을 즉시 삭제, 사죄했다. 기시다 총리는 이듬해 국제 회의에서 “AI로 생성한 딥페이크와 도용된 소리의 사용이 가능해지면서 정보의 진위 여부를 파악하기도 어려워졌다”며 “허위 정보 확산 방지는 모든 국가의 공통적인 도전 과제”라고 연설했다.
국제선거제도재단(IFES)의 지난해 조사에 따르면 스리랑카·인도·대만 등에서도 AI로 손쉽게 조작된 정치 메시지가 유명인의 탈을 쓰고 퍼져 나가 논란을 일으켰다. 과거 인터뷰 영상의 주어를 바꾸는 식으로 조작해 원래와 정반대 메시지를 퍼뜨리는 방식이 흔하다고 한다.
유럽연합(EU)은 ‘디지털서비스법(Digital Services Act)’을 통해 딥페이크를 제재하고 있다. 플랫폼 사업자가 불법·유해 콘텐트를 의무적으로 삭제하고 법적 책임까지 지도록 하는 방식이다.
하지만 대부분의 국가에서 관련 입법은 기술 발전 속도에 못 미치고 있다. 미국은 연방 의회에 ‘딥페이크 책임법안’ 등이 계류 중이지만, 현재로선 연방정부 차원의 구체적 기준이 없다.