생성형 인공지능(AI)으로 위조한 목소리(딥보이스)를 이용해 동급생을 학교폭력 가해자로 허위 신고한 10대가 경찰 수사를 받게 됐다.

서울 구로경찰서는 A양(18)을 무고 및 공무집행방해 혐의로 수사 중이라고 12일 밝혔다. 경찰 관계자는 “조만간 A양을 불러 범행 동기 등을 파악할 예정”이라고 말했다.

A양은 지난해 12월 같은 고등학교 동급생 B군(18)으로부터 성적 모욕을 당했다며 학폭 피해를 신고하면서 B군 목소리가 담긴 음성파일을 제출했다. 파일에는 B군이 A양에 대해 “과거 낙태를 했고 룸카페를 드나들었다”거나 “주변 친구들과 돌아가며 사귄다”는 등의 말이 포함된 것으로 알려졌다.

하지만 B군은 해당 발언을 한 적 없어 억울하다고 주장했다. B군은 학폭 신고 당시 제출된 증거를 공개해 달라고 요청했지만 거절당했다고 한다.

A양이 증거로 제출한 음성파일은 딥보이스 음성으로 파악됐다. 같은 학교 C군(18)이 A양의 요구를 받아들여 B군 목소리를 녹음한 뒤 텔레그램 업자를 통해 B군 목소리와 구별하기 어려운 딥보이스 음성을 제작한 것으로 드러났다.

해당 학교는 오는 20일 학교폭력대책심의위원회를 열 계획이다. 다만 A양은 이미 조기 졸업해 상위권대 합격을 통보받은 것으로 파악됐다.

이런 사실을 뒤늦게 알게 된 B군은 A양과 C군을 경찰에 고소했다.

B군 측은 “학폭 신고 시 피해자가 제출한 증거는 가해자에게 공개되지 않는다는 점을 악용한 것으로 보인다”며 “딥보이스 등 AI 기술을 활용한 신종 학폭 사건에 대한 대비가 필요하다”고 말했다.

국민일보

윤예솔 기자([email protected])