디지털 플랫폼을 타고 퍼지는 악성 게시물을 형상화한 이미지. 이수민 기자
유튜브, 페이스북, X(트위터) 등에서 퍼지고 있는 허위·조작정보나 혐오·폭력 조장 게시물을 해당 플랫폼에 따라 신고해 봤더니 삭제나 후속조치가 거의 이뤄지지 않는 것으로 나타났다. 이런 악성 게시물들을 거대 디지털 플랫폼이 사실상 방치함으로써 사회적 혼란을 가중하고 있는 셈이다.
경향신문 데이터저널리즘팀 다이브는 지난달 22일부터 사흘 동안 유튜브, 페이스북, X에 올라온 영상과 게시글 중 허위·조작정보나 혐오·폭력 조장 게시물 146건을 무작위로 골라 해당 플랫폼이 제공하는 절차에 따라 신고했다. 그 결과 보름이 지난 9일 현재까지 유튜브 동영상 단 1건에 대해서만 공식적으로 삭제 조치가 이뤄졌다는 통보를 받았다. 페이스북 게시물 7건은 규정을 위반하지 않았다며 신고가 반려됐다.
악성 게시물 신고 및 삭제 건수
신고 대상 게시물은 △부정선거와 관련된 명백한 허위·조작정보(122건) △중국인, 여성 등 특정 집단에 대한 혐오 조장(13건) △계엄·내란, 폭력·폭동 행위를 적극 옹호하거나 선동(11건) 등이었다. 구체적으로는 부정선거와 관련해 허위로 판명된 중국인 99명 체포설이나 전자개표나 투표용지 관련 음모론, 언론사 기자가 서부지법 난입·폭력 사태를 주도했다는 거짓정보, 윤석열 대통령에 대해 구속영장을 발부한 차은경 판사 본인과 가족에 대한 신변 위협이나 허위 정보, 중국인 혹은 ‘조선족’이 받는 혜택이라며 허위정보를 올려놓고 혐오를 조장하는 게시물 등이 있었다.
신고한 유튜브 영상의 조회 수를 합치면 1370만여 회에 이르렀고 댓글은 27만5000여 개가 달렸다. 페이스북 게시물은 6800여 개의 좋아요 등 반응이 있었고, 1800여 차례 공유돼 퍼져 나갔다. X의 게시물은 조회수가 73만여 회에 이르렀고 1만1000여 회 리트윗되면서 확산됐다. 이용자들은 또 다른 플랫폼으로 같은 내용을 옮기거나 링크를 공유하기도 했다.
한국언론진흥재단의 ‘2024 소셜미디어 이용자 조사’에 따르면 소셜미디어로 뉴스·시사 정보를 이용하는 사람들 중 65.1%가 소셜미디어가 언론 역할을 수행한다고 응답했다. 소셜미디어나 온라인 동영상 플랫폼이 제공하는 정보를 신뢰한다고 응답하는 비율도 절반을 넘었다. 전 사회적으로 부정선거와 관련한 허위·조작정보, 특정인이나 기관에 대한 폭력 위협, 중국인이나 여성, 성소수자 등에 대한 혐오 등이 광범위하게 확산하는데 있어 디지털 플랫폼의 책임이 큰 이유다.
유튜브가 제공하는 커뮤니티 가이드 중 ‘잘못된 선거 정보 관련 정책’ 부분을 갈무리했다. 유튜브 홈페이지
각 디지털 플랫폼은 자체적으로 게시물 삭제나 제한 조치와 관련한 규정을 가지고 있다. 유튜브는 ‘커뮤니티 가이드’에서 국적이나 성별 등의 특성을 근거로 “개인이나 집단에 대한 폭력 또는 혐오를 조장하는 콘텐츠”는 허용하지 않는다고 규정하고 있다. 선거에 대한 거짓정보도 게시하지 못하도록 돼 있다. 페이스북을 운영하는 메타는 “정치적 절차를 방해하는 일에 직접적으로 기여할 가능성이 있는 경우”, “이민자 신분을 이유로 개인 또는 집단을 서면 또는 시각적 형식으로 공격하는 콘텐츠” 등을 삭제할 수 있다고 명시하고 있다. X는 이용 약관에서 “거짓 또는 오해의 소지가 있는 맥락을 제시하는 미디어”를 공유할 수 없다고 하고 있다.
메타코리아 관계자는 “위반 사례는 인공지능(AI)이 삭제하거나 제한 조치를 하고 있다”며 “각국의 문화, 언어에 능통한 콘텐츠 검토팀원 1만5000명도 모니터링 중”이라고 밝혔다. 구글과 유튜브 측은 “약관을 확인해 보라”고만 했다.
유튜브 채널 ‘김상진TV’가 더불어민주당의 신고로 폐쇄되기도 하는 등 일부 조치가 이뤄진 사례도 나온다. 하지만 규정을 명백히 위반한 것으로 보이는 상당수 콘텐츠에 대해서 신고한 지 보름이 지나도록 아무런 조치가 취해지지 않거나 심지어는 문제가 없다고 판단하는 것을 보면 규정 적용이 제대로 이뤄지지 않거나 지나치게 오래 걸려서 실질적인 기능을 하지 못하고 있는 것으로 보인다.
한 다른 유튜브 이용자는 지난해 5월 여성 혐오 관련 영상 신고를 했는데 8개월이 지나서야 삭제됐다는 메일을 받았다는 내용을 소셜미디어에 공유하기도 했다. 반면 일반적인 콘텐츠가 억울하게 제한 조치를 당하는 경우도 있다. 한 유튜브 이용자는 전자제품을 싸게 구매하는 영상을 올렸다가 삭제 조치를 당했고 이의 신청을 하자 다시 복구됐다는 후기를 올렸다.
유현재 서강대 신문방송학과 교수는 “유해성 정보라고 해도 조회 수가 늘고 이용자가 늘어나기 때문에 미필적 고의로 그냥 놔두는 것처럼 보이기까지 한다”며 “이용자의 접속으로 간접적 이익을 얻고 있다면 최소한 신고에 응답을 하는 등 책임도 다해야 한다”고 말했다.
독일의 네트워크집행법(NetzDG)은 200만 명 이상의 사용자를 가진 플랫폼들을 대상으로 혐오 표현 및 불법 콘텐츠에 대한 사용자의 불만이 접수되면 신속하게 삭제하도록 요구하고 있다. 한국도 이러한 법체계 마련이 필요하다는 주장도 있다. 그러나 이런 조치가 디지털 플랫폼 기업들의 과도한 콘텐츠 차단이라는 반작용을 낳을 우려도 있다.
황용석 건국대 미디어커뮤니케이션학과 교수는 “디지털 플랫폼은 제3자(이용자)가 게시한 정보와 의견을 ‘유통’하는 역할을 하며, 불법적인 콘텐츠가 아닌 이상 내용의 중립성과 비편집성을 유지하는 것이 기본권 보호의 중요한 원칙”이라며 “정치·사회적 정보의 경우, 비록 허위라고 하더라도 언론 보도나 제도권 정치에서 논쟁과 공론화가 이루어지고 있다면, 국가기관이 거짓이라고 밝힌 부정선거 관련 게시물이라 하더라도 공적 관심 사안(public concern)으로 인정될 수 있어 삭제가 어렵다. 여론 형성 과정에 민간 플랫폼이 직접적으로 영향을 미치는 결과를 초래할 수 있기 때문”이라고 말했다.
우선은 악성 콘텐츠에 경고 문구 표기나 수익 제한 조치 등을 요구하고, 장기적으로는 법적 규정을 정비하는 일이 필요할 것으로 보인다. 황 교수는 “대부분의 허위·조작 정보는 특정 집단에 대한 차별이나 혐오적 표현과 결합되어 나타나므로, 차별금지법과 같은 법적 규제가 보완된다면 이를 줄여나갈 수 있다”며 “공신력 있는 제3의 검증 기관이 확인한 정보에 대해 이용자가 접근할 수 있도록 다양한 정보 제공 장치를 마련하거나, 반복적이고 악의적으로 허위·조작 정보를 생산하는 계정이나 채널에 대해서는 수익 창출 행위나 활동 제약 조치 등을 고려할 수 있는데, 사회적 의견 수렴 등 공론화 과정이 선행돼야 한다”라고 말했다.