4·10 총선을 앞두고 에이브러햄 링컨, 윈스턴 처칠, 더글러스 맥아더가 유창한 한국어로 지지하는 정당을 밝힌다면 어떨까. 과거 같으면 조악한 수준에 코웃음 치겠지만 인공지능(AI) 기술의 발달에 따라 더 이상 가볍게 넘길 수 없는 문제가 됐다.

중앙선거관리위원회는 2일까지 딥페이크(특정 인물의 얼굴 등을 AI 기술을 이용해 특정 영상에 합성한 편집물) 영상 등을 통한 선거법 위반행위 총 327건을 적발했다. 선관위는 이 중 1건은 경고, 2건은 준수 촉구, 324건은 삭제요청 조치했다.

인터넷상에서는 이날도 외국 유명 인사들이 명언과 함께 특정 당 이름을 반복적으로 외치는 딥페이크 영상(사진)이 쉽게 검색됐다. 링컨이 “국민의, 국민을 위한, 국민에 의한 XXXX당”이라고 말하고, 맥아더가 “노병은 죽지 않는다. 다만 사라질 뿐이다. XXXX당”이라고 외치는 식이다. 영상에는 “이분들도 XXXXX를 지지한다고!?”라는 제목도 달렸다. 설명에는 해시태그로 이 영상이 AI 편집물, 딥페이크라는 사실도 적시했다. 해당 유튜브 채널에는 이 당과 전광훈 목사에 대한 영상이 다수 올라와 있다.

선관위에 적발된 사례 중에는 국내 주요 정치인이 특정 정당·입후보 예정자에 대해 부정적인 언급이나 조롱·비난을 하는 듯한 영상을 만든 경우도 있다. 드라마 등 방송 영상에 딥페이크 기술로 특정 입후보 예정자의 얼굴을 삽입해 조롱·비난하는 듯 만들거나, 홍보 혹은 지지를 호소하는 사례도 있었다.

이 같은 사례는 모두 공직선거법 위반이다. 누구든지 선거일 전 90일, 이번 총선의 경우 지난 1월29일부터 선거운동을 위해 딥페이크 영상을 제작·편집·유포·상영·게시할 수 없다. AI 기술을 활용한 기능이 포함된 프로그램으로 만든 음향·이미지·영상은 제한대상이 될 수 있다.

선관위는 지난 1월11일부터 AI 모니터링 전담요원과 AI 전문가로 구성된 감별반 등을 확대 편성·운영 중이다.

경향신문

문광호 기자 [email protected]