기사 내용과 관련 없는 딥페이크 연출 이미지. 게티이미지뱅크

서울대 출신 남성들이 동문 등 여성 61명을 상대로 음란 합성물을 만들어 온라인에 퍼뜨린 이른바 '서울대판 N번방' 사건을 계기로 딥페이크(Deepfake·인공지능으로 만든 합성 영상물) 성범죄 규제 강화 필요성이 커지고 있다. 미국과 유럽 등 해외에서도 딥페이크 성범죄가 급증하면서 관련 법 제정 등 대책 마련에 나서고 있다. 국내에서도 2020년 성폭력처벌법 개정으로 딥페이크 성범죄에 관한 처벌 규정이 생겼지만 솜방망이 처벌에 불과해 양형 기준을 높여야 한다는 지적이 나온다.

스위프트도 이탈리아 총리도 당했다

미국 팝스타 테일러 스위프트가 2월 7일 일본 도쿄돔에서 열린 '에라스 투어' 공연에서 열창하고 있다. 도쿄=AP 연합뉴스

지난 1월 미국에서는 세계적인 팝스타 테일러 스위프트(35)의 얼굴이 합성된 음란물 이미지가 사회관계망서비스(SNS) 등을 통해 빠르게 유포됐다. 엑스 측은 해당 이미지를 게재한 SNS 계정들을 정지시키고, 스위프트 검색 차단 등의 조치를 취했지만 이미 해당 이미지들은 수천만 건의 조회수를 기록하며 확산했다.

조르자 멜로니(47) 이탈리아 총리도 딥페이크 성범죄 피해를 입었다. 지난해 말부터 멜로니 총리 모습에 음란물을 합성해 만든 동영상이 미국 포르노 사이트에 수개월 동안 게재됐다. 멜로니 총리는 음란 합성물을 제작·유포한 남성들을 상대로 10만 유로(약 1억5,000만 원)의 손해배상 소송을 걸었다.

딥페이크 성범죄는 유명 인사뿐 아니라 미성년자 등도 무차별적으로 노린다. 미국 로스앤젤레스(LA)의 한 중학교에서는 올해 2월 같은 반 여학생 16명의 얼굴에 나체 이미지를 합성한 음란물을 만들어 유포한 중학생 5명이 적발돼 퇴학 조치를 당했다. 플로리다주(州) 마이애미에서도 지난해 12월 10대 소년 2명이 또래 얼굴을 음란물과 합성한 이미지를 생성하고 공유한 혐의로 붙잡혔다. 이들은 주법에 따라 3급 중범죄 혐의로 기소됐다.

EU, AI 규제법 승인… 우리나라는 폐기

지난해 6월 14일 프랑스 스트라스부르 유럽의회 본부 회의장에서 유럽연합(EU) 내 인공지능(AI) 규제 법안 협상안 표결이 진행되고 있다. 스트라스부르=AFP 연합뉴스

딥페이크 성범죄가 전 세계적으로 기승을 부리면서 각국도 대응에 나서고 있다. 미국에서는 스위프트 사건을 계기로 법 제정 논의가 급물살을 타고 있다. 최근 미 의회 상원에는 피해자가 딥페이크 음란물의 제작·유포·소지자에게 15만 달러(약 2억 원)의 민사상 손해배상을 청구할 수 있는 내용의 여성폭력방지법의 개정안, 일명 '저항(Defiance)법'이 발의됐다.

미 백악관도 지난달 23일 성명에서 "2022년 제출된 여성폭력방지법 재승인을 기반으로 AI 생성 이미지를 포함한 이미지 기반 성적 학대 피해자에 대해 법적 보호를 강화해야 한다"고 관련 법 제정을 촉구했다.

유럽연합(EU)은 세계 최초로 포괄적 성격의 AI 규제법을 지난달 21일 최종 승인했다. 해당 법은 AI 활용 위험도를 크게 네 단계로 나눠 차등 규제한다. 딥페이크로 만든 영상·이미지·소리에 대해 AI로 조작한 콘텐츠라고 표시해야 한다. 또 인간과 지능이 비슷한 '범용 AI' 개발 기업은 학습 과정에 사용한 콘텐츠를 밝혀 투명성을 강화하고 저작권법도 준수해야 한다.

국내에서도 AI 악용에 대한 우려가 커지면서 AI 기본법이 발의됐지만, 지난 21대 국회에서 문턱을 넘지 못한 채 폐기됐다. 다만 2020년 개정된 성폭력처벌법을 통해 딥페이크 성범죄 가해자에 대한 처벌 규정은 마련돼 있다. 해당 법에 따르면 딥페이크 영상물 등을 제작·반포할 경우 5년 이하의 징역 또는 5,000만 원 이하의 벌금에 처해진다. 영리 목적이면 7년 이하 징역에 처해진다.

절반이 집행유예...처벌 강화 필요성

한국일보 자료사진

하지만 딥페이크 성범죄를 예방하기엔 아직 미흡한 점이 많다. 딥페이크 성범죄 피해에 비하면 양형 기준이 낮다. 현행법상 징역 5년 이하는 형법상 뇌물공여, 특수폭행, 미성년자 간음죄 처벌과 유사한 수준이다. 징역 7년은 성폭력처벌법에서 정한 카메라 등을 이용한 불법촬영 처벌과 맞먹는다.

딥페이크 영상물 반포가 아닌 단순 소지나 제작의 경우 처벌은 더 약해진다. 양형 기준에 제작의 경우 미성년자를 합성한 경우가 아니라면 기본 6개월에서 최대 1년 6개월까지 선고하게 돼 있다. 가중 요소를 반영해도 최대 2년 6개월로 법정형의 절반에 불과하다. 이에 비해 아동·청소년 성착취물 제작의 경우 기본 징역 5~9년, 가중 시 최대 13년까지 선고할 수 있다.

실제 처벌받는 경우도 적다. 대법원 판결서 열람 시스템에 따르면 2020년 이후 지난해까지 딥페이크 범죄 관련 1·2심 판결 71건 중 절반이 넘는 35건이 집행유예를 선고받았다. 나머지 36건 중 31건은 다른 성범죄도 함께 저질러 실형이 선고된 사례였고, 딥페이크 범죄만으로 실형을 선고받은 건 4건에 불과했다. 무죄가 나온 경우도 있었다. 초범일 경우 대체로 집행유예가 선고됐다.

김명주 서울여대 정보보호학과 교수는 "정부나 공공기관에서 딥페이크가 범죄이고 비윤리적이라는 메시지를 줘야 하고, 윤리적으로 접근하기 어렵다면 법이 동원돼야 한다"며 "대개 초범은 선처하는 양형 때문에 성폭력처벌법도 경각심을 일깨우지 못하고 있다"고 지적했다.

최경진 가천대 법대 교수는 "법에 딥페이크 처벌 규정이 있어 처벌할 수 있어도 사전적 예방 효과가 부족하다"며 "(합성) 영상물을 만들어내는 경우가 심각한 범죄라는 인식이 사회에 자리 잡히지 않아 신규 범죄에 대한 리터러시를 높이는 게 급선무"라고 짚었다.

한국일보

윤한슬 기자 ([email protected])