[인스타그램 캡처. 재판매 및 DB 금지]

(서울=연합뉴스) 김유진 인턴기자 = 챗GPT 등으로 제작한 이미지와 네 컷 만화로 불법 성매매를 조장·미화하는 콘텐츠가 최근 인스타그램을 통해 무분별하게 확산하고 있다.

생성형 인공지능(AI)의 악용 위험성과 부작용에 대한 우려의 목소리가 커지는 가운데 불법 성매매 콘텐츠까지 소셜미디어(SNS)에서 버젓이 제작·유포되고 있는 것이다.

누리꾼들은 불쾌함을 토로하며 단속과 규제가 필요하다고 지적하지만, 인스타그램 측은 "해당 계정들이 생겨나고 있다는 걸 아직 인지하진 못했다"고 밝혔다.

[인스타그램 캡처. 재판매 및 DB 금지]

10일 현재 인스타그램에선 유흥업소 여성들의 일상을 AI로 그려낸 이미지나 만화로 전달하고 있는 여러 계정을 쉽게 찾아볼 수 있다. 주로 불법 성매매 과정에서 일어나는 여러 에피소드를 챗GPT로 그린 것들이다.

이들 계정의 프로필에는 '언니들의 실화를 바탕으로 올립니다', '음지의 모든 공감을 담았어요. 100% 아가씨 리얼 스토리', 'AI로 그린 감동 실화 경험담을 기반으로 올립니다' 등의 소개 글이 있다.

대부분 지난달 말에서 이달 초에 개설된 신규 계정들인데 벌써 팔로워 수가 적게는 1천명대, 많게는 7천명대에 이른다.

각 계정은 하루에 1개 또는 2개 정도의 게시물을 꾸준히 업로드하고 있으며, 팔로워 수는 빠르게 증가하고 있다.

A계정은 유흥업소 여성의 퇴근길 모습을 한 컷 이미지로 그려내며 '하루 일하면 100만원 버니까 계좌 잔액이 1만3천원이더라도 택시를 탄다'는 내용을 그리거나, 여성이 저녁에 미용실에서 헤어와 메이크업을 받고 콜(유흥업소 여성들을 태워 이동시키는 차)을 기다리는 내용 등을 보여준다.

B계정은 유흥업소 여성들의 일상을 150개 이상의 AI 이미지로 묘사하고 있다.

'일반인 친구들 만나는 날'이라는 게시물은 성형수술을 받고 업소 여성으로 변신한 주인공이 친구들로부터 '예뻐졌다'는 칭찬을 받으면서 속으로 친구들을 한심하게 여기는 내용을 그렸다.

'선수들의 확인법'이란 이미지에는 유흥업소를 찾은 남성이 업소 여성의 팔을 만지며 팔에 칩(임플라논, 체내 삽입형 피임약)이 박혀 있는지를 확인하는 모습이 담겼다.

이 외에도 업소 아가씨의 특징 등을 재밋거리로 그린 콘텐츠가 선보였다.

C계정은 불법 성매매 과정에서 벌어지는 일을 AI 네 컷 만화로 전달하고 있다.

유흥업소에 처음 온 손님을 상대하는 모습, 나이 많은 남성을 상대하는 모습, 할아버지·아버지·손자가 알고 보니 같은 업소에 다니고 있다는 이야기 등 선정적인 내용들이 아무렇지도 않게 만화처럼 소비되고 있다.

이 계정에서 '늙은 손님 관리법' 편은 조회수가 무려 555만회에 달한다. 또 총 44개의 게시물 모두 조회수가 각각 10만회 이상이고 이 중 10개의 게시물은 조회수 100만회를 넘겼다.

[인스타그램 캡처. 재판매 및 DB 금지]

'AI로 그린 감동 실화 경험담을 기반으로 올린다'고 홍보하는 D계정에선 업소를 방문한 남성의 파우치 안에서 마약으로 추정되는 하얀 가루가 나온 장면, 일명 '나비약'이라 불리는 마약 펜터민이 포함된 향정신성 식욕억제제를 먹는 모습 등이 나오기도 했다.

이 같은 게시물을 접한 정모(26) 씨는 "불법 성매매가 하나의 콘텐츠로 소비되고 있었다는 게 정말 충격적"이라며 "게시물 조회수도 생각보다 너무 높아서 할 말을 잃었다"고 불쾌해했다.

하모(26) 씨 역시 "최근 유행했던 챗GPT 지브리 그림체와 비슷한 그림체로 이런 저급한 콘텐츠를 생산해낸다는 게 정말 기괴하다"고 비판했다.

강모(25) 씨도 "인스타그램은 미성년자인 청소년들도 많이 하는 SNS인데 이런 게시물들이 아무런 제지 없이 만연한다면 청소년들에게 악영향을 끼칠 것 같다"며 우려했다.

누리꾼들은 불편함을 호소하고 있다.

엑스(X· 옛 트위터) 사용자 'gog***'는 "요즘 인스타그램 보면서 이런 게시물들 많이 봤다"며 "볼 때마다 심각하리만큼 불쾌하고 이런 걸 웃으며 보는 사람이 있다는 게 혐오스럽다"고 지적했다.

'vnz***'는 "인스타그램에 이런 계정들이 너무 많아서 보일 때마다 신고하고 있지만 정작 인스타그램 측에선 대처를 안 하는 것 같다"고 비판했다.

이에 대해 인스타그램을 운영하는 메타 관계자는 "해당 계정들이 생겨나고 있다는 걸 아직 인지하진 못했다"며 "인스타그램 계정들과 게시물들은 커뮤니티 규정에 따라 위반 여부 확인 후 조치를 취하고 있다"고 밝혔다.

이어 "게시물이 명백하게 불법 성매매를 조장하는 내용을 담고 있다면 당연히 삭제 처리되는 게 맞지만 그렇지 않은 경우라면 구체적인 내용에 따라 위반 여부를 따져야 하므로 애매한 부분이 있을 수밖에 없다"며 "표현의 자유와 콘텐츠 관리에 균형을 맞추는 데에 있어 예민한 문제가 될 수 있다"고 말했다.

[email protected]

연합뉴스

김유진([email protected])