초반 5분이 승부처…‘팩트체크’만으로는 해결 못 해
유튜브에 올라와 있는 선관위 중국인 간첩 99명이 체포됐다는 허위정보를 담은 영상 / 유튜브 캡처
화교는 특별전형으로 서울대 의대에 갈 수 있다는 유튜브 게시 허위정보. 지난 1월 21일 올라온 영상이다. / 유튜브 캡처
[주간경향] ‘선관위 체포된 중국인 99명 CCTV 추정 영상 발표’, ‘부정선거 증거 중국인 99명’, ‘●[Live] 헐 ㄷㄷ…. 선관위연수원 체포된 중국 간첩 99명 추정 CCTV 영상’ 2월 5일 기자가 유튜브에 ‘선관위 중국인 99명’을 키워드로 검색해서 나온 콘텐츠 중 일부다. 검색 결과 중 두 번째, 열한 번째, 열세 번째로 나온 영상들이다. 첫 번째 영상은 HNM뉴스가 만들었다. HNM뉴스 콘텐츠는 검색 결과 상위 10개 중 2개를 차지했다.
지난 1월 주간경향은 DC인사이드 등 커뮤니티·SNS에 올라온 댓글들과 종전 보도 영상을 조합해 인공지능(AI)으로 만들어낸 ‘HNM뉴스의 실체’에 대해 보도했다. 위 ‘CCTV 추정 영상 발표’는 주간경향 보도 후 새로 올라온 영상이다. 유튜브 추천 영상 알고리즘은 개인별로 다르다. 해당 유튜브 사용자가 관심을 가질 만한 영상을 추천해준다. 위 HNM뉴스 영상이 기자의 검색 결과에 상위 노출된 것은 지난달 취재를 하면서 HNM뉴스 영상을 집중적으로 봤기 때문일 수도 있다. 그러나 유튜브를 로그아웃하고 살펴봐도 결괏값은 비슷했다. 상위 10개 목록 중 HNM뉴스 영상 하나가 줄어들었을 뿐이다.
더 심각한 것은 ‘화교’라는 검색어를 넣었을 때다. 아무런 가치판단이 들어가지 않은 단어일 뿐인데 상위 다섯 번째로 노출된 영상의 제목은 이렇다. ‘화교카르텔에 먹힌 대한의사협회. 화교 특혜입학을 만든 이유!’ 일곱 번째로 나오는 영상은 ‘화교가 서울대 의대 가는 신박한 방법’이라는 쇼츠 영상이다. 특이한 것은 이 영상 바로 앞에 나오는 ‘“화교는 특별전형으로 의대 간다” 따져봤더니/사실은’이라는 제목의 SBS 보도 팩트체크 영상이다. “결론적으로 말하면 화교 특별전형은 없다.” 보도 앞부분에서 전하는 팩트체크 결과다. 그런데 이 영상은 3년 전에 올라왔다. 당시 한 온라인게시판에 해당 주장이 올라와 30만회를 넘는 조회 수를 기록해 화제를 모아 사실인지 알아봤다는 것이다. 그런데 앞서 유튜브가 상위 검색 결과로 제시하는 ‘화교 특혜입학’, ‘화교가 서울대 의대를 가는 신박한 방법’ 영상은 각각 8일 전, 2주 전에 나온 영상이다. 3년 전에 이미 팩트체크가 끝난 사안을 가지고 반중 혐오 정서에 올라타 이번에는 대한의사협회를 공격하는 식으로 ‘허위정보’를 이어가고 있었다.
유튜브 검색 결과 ‘허위정보’ 상위 노출 방치
이들 ‘허위정보’는 논란으로 다룰 만한 다른 시각 또는 견해에 해당하지 않는다. 유튜브 가이드라인에 따르면 ‘발견하는 즉시 삭제’ 대상이다. 유튜브의 ‘크리에이터 가이드라인’은 “혼동을 일으키는 콘텐츠 또는 사기성 콘텐츠로 심각한 피해를 줄 중대한 위험이 있는 특정 유형의 콘텐츠”는 허용되지 않는다고 밝히고 있다. 또 ‘연령이나 계급·인종, 이민 신분·국적·성적 지향’ 등의 특성을 근거로 개인이나 집단에 대한 폭력·혐오 조장 콘텐츠는 허용되지 않는다고 명시하고 있다. 유튜브 측은 이와 관련한 주간경향 문의에 지난 2월 5일 “정책을 위반하는 콘텐츠를 발견하면 동영상, 라이브 스트림, 쇼츠 등 형식과 관계없이 삭제하고 있다”라고 답변했다. 그렇다면 명백하게 가이드라인을 위반한 것으로 보이는 위 영상들을 방치를 넘어 상위 검색 결과에 노출하는 이유는 무엇일까.
“최근 쟁점이 되는 것이 인지전(cognitive warfare)이다. 이른바 허위정보를 퍼뜨리는 사람들의 목적은 그걸 오랫동안 노출하려는 목적이 아니다. 허위정보를 퍼뜨린 사람이 나중에 법적 책임을 지든 말든 초기 몇 시간 동안 퍼져 사람들에게 선입견을 심어주는 것이 목적이기 때문이다.” 이원재 카이스트 문화대학원 교수의 말이다. 게릴라처럼 치고 빠지는데 특화된 이런 허위정보에 비해 공신력이 있는 기관, 예컨대 언론의 팩트체크와 같은 대응은 무용지물일 수밖에 없다는 지적이다. 그는 심지어 팩트체크의 효용성은 끝났다고도 말했다. “과거 미국 대선에서 예컨대 힐러리 클린턴이 아동포르노와 관련이 있다는 주장은 터무니없다. 하지만 뻔히 아니라는 것을 알면서도 그 주장을 퍼뜨리는 사람에겐 저 여자는 상종 못 할 나쁜 사람이라는 생각만 심어주면 목적을 달성하는 것이다. 한국으로 넘어와서 이재명 더불어민주당 대표에 대한 것도 마찬가지다. 명백한 가짜뉴스인 걸 알면서도 역시 이재명은 나쁜 사람이라는 걸 심어주면 그만이다. 인지전 상황에서는 초반 5분에 대응이 이뤄지지 않으면 의미 없다.”
“탄핵 가결 후 내란 폭동 상황을 보면 그동안 유튜브 디지털 영상 플랫폼이나 소셜미디어 관련 논의에서 나왔던 긍정·부정 효과를 논의하는 상황을 넘어선 것으로 보인다.” 유승현 한양대 언론정보대학원 겸임교수의 말이다. 그가 생각하는 ‘플랫폼상 정치 양극화’ 방지 해법은 플랫폼 사업자와 감시단체, 관련학계나 전문가·사용자들이 참여하는 자율규제 거버넌스 기구를 만들어 가이드라인을 만들어 적용하는 것이다. “법적 규제로 가짜뉴스 규제나 허위정보 단속은 어렵다. 아무리 법적 규제를 취하더라도 논란만 더 커질 것이다. 결국 유튜브와 같은 플랫폼의 책임성·책무성을 중심으로 대안을 마련할 수밖에 없다.”
송경재 상지대 사회적경제학과 교수는 유튜브와 같은 플랫폼을 매개로 허위정보가 무분별하게 퍼지고 있는 상황이 ‘퍼나르기식 알고리즘의 확산’ 문제라고 설명했다. “결국 금전적 목적이기는 하지만 주목을 받기 위해 다른 유튜버를 비난하고 선명성 경쟁을 한다. 누군가 제어를 해줘야 하는데 예컨대 그런 역할을 해야 하는 정치인들이 거기에 휩쓸린다. 유튜버가 근거 없이 한마디 던진 것을 정치인이 받으면 그 정치인의 발언을 유튜버가 받고 언론이 받는 형태로 상호 인용한다. 순환구조의 함정이다. 결국 근거는 사라지고 인용자만 남는 것이다.” 그는 이 문제를 해결하려면 알고리즘 개선을 위한 글로벌 컨센서스(합의)를 만드는 한편, 정치현상과 시민참여에 대한 시민교육 강화, 그리고 기술의 민주적 통제가 필요하다고 덧붙였다. “어느 진영이든 지금은 플랫폼 여론이 자기에게 유리하다고 입을 닫을지는 모르지만 결국 부메랑이 되어 돌아오게 마련이다. 유튜브 극단화 경향에 대한 대책은 국회 차원에서 논의기구를 만들 필요가 있다.”
‘퍼나르기 알고리즘’ 악순환 고리 끊으려면
강정수 블루닷AI연구센터장은 “확증편향으로 양극단화되는 현상을 막을 확실한 방법은 현재로서는 없다”라고 말한다. “알고리즘이 야기하는 양극단화 현상은 앞으로도 계속 사회문제가 될 것이다. 한국만이 아니라 세계적인 현상이다. 이번 미국 대선의 경우 팟캐스트 선거라고 하지만 다들 유튜브 채널도 있다. 트럼프 1기 집권 때는 극우 뉴스를 중심으로 하는 가짜뉴스가 논란이 됐는데 이번에는 양쪽 모두 티브이 토론에도 나가지 않고 팟캐스트에 출연했다. 상대방과 논쟁하는 것이 아니라 지지자들을 대상으로 한 시간 내내 떠들 수 있는데 뭐하러 토론방송에 나가는가. 심지어 유튜브 비판까지 나왔다. 트럼프 유세 영상 도달 수가 4500만명이었는데 트럼프 선거운동을 한 일론 머스크는 카멀라 해리스 민주당 후보를 미는 (유튜브의 모기업) 구글이 일부러 도달 수를 축소했다는 음모론까지 제기했다.”
김정연 연세대 디지털사회과학센터 연구교수는 “한국에서 부정선거를 둘러싼 논란을 보면 사실에 입각한 내용을 추구하는 것이 아니라 이성보다는 본인의 감정에 좌지우지돼 외집단 혐오까지 나가는 것이 전형적인 탈진실 현상”이라며 “사용자 스스로 능동적으로 자신과 다른 의견을 청취하려고 노력할 필요가 있다”라고 덧붙였다.
