제22대 국회의원선거 재외국민 투표가 시작된 지난달 27일 중국 베이징 주중국대사관에 설치된 투표소에서 유권자들이 기표소로 향하고 있다. 연합뉴스
올해 한국을 비롯해 70여 개국에서 대통령이나 국회의원을 뽑는 선거를 하는 상황에서 인공지능(AI)이 양산하는 허위·조작 정보가 민주주의를 위협하는 요소로 떠올랐다. 이전까지는 소셜미디어를 통한 허위·조작 정보의 ‘유통’이 사회적 문제로 대두됐다. 이제는 ‘생성형 인공지능(AI)’ 프로그램이 출시되면서 전문 지식 없이 키보드와 마우스를 몇 번 조작하는 것만으로도 허위·조작 정보를 대량 ‘생산’할 수 있게 되면서 유권자들은 새 국면을 맞이했다.
거짓 정보가 담긴 AI 콘텐츠는 이미 전 세계에 걷잡을 수 없이 번지고 있다. 지난해부터 미국 조 바이든 대통령과 도널드 트럼프 전 대통령이 묘사된 허위 음성과 이미지가 온라인상에서 빠르게 번졌으며, 대만에서도 차이잉원 총통의 허위 비사를 읊는 거짓 방송뉴스 영상이 만들어졌다.
전문가들은 AI가 만든 거짓 정보를 올해 우리 사회의 큰 위험 요소로 봤다. 학계와 재계, 정부 기관, 국제기구 관계자 등 전 세계 전문가 1490명을 대상으로 벌인 세계경제포럼의 ‘2024년 글로벌 리스크’ 설문조사 결과, 올해 지구 최대 위협으로 ‘극한의 날씨’(66%) 다음으로 ‘AI가 생성한 거짓 정보’(53%)와 ‘사회적·정치적 대립’(46%)이 꼽혔다.
단돈 3만원으로 딥페이크 ‘뚝딱’···허위 정보 고속·대량 생산 시대
영상 생성 AI 런웨이사 젠-2가 만든 미군이 나오는 4초 분량의 영상. 젠-2 갈무리
2020년 미국 대선 이전까지만 해도 AI 콘텐츠 제작은 ‘전문가의 영역’이었다. 2015년 미군이 이슬람 성서 꾸란에 총을 쏘는 1분45초 분량의 영상이 유튜브에 올라온 바 있는데, 이는 배우가 연기한 모습을 촬영해 러시아의 ‘가짜뉴스 공장’에서 ‘팀’ 단위의 기술자들이 편집·배포했다는 증언이 나왔다.
하지만 2020년대에 접어들며 스타트업부터 빅테크까지 그림, 영상, 음성 등 다양한 유형의 콘텐츠를 만드는 상업용 생성형 AI 제품을 줄이어 공개했다. 이미지 생성 AI로는 오픈AI의 달리(2021)와 스테빌리티AI의 스테이블 디퓨전(2022)이, 영상 생성 AI로는 런웨이의 젠-2(2023)와 메타의 에뮤(2023)가 출시됐다. 챗봇인 챗GPT(오픈AI·2022)와 제미나이(구글·2023), 음성 복제 AI인 발리(마이크로소프트·2023)도 탄생했다.
이 같은 상업용 AI는 기업뿐만이 아니라 개인을 상대로도 판매되기 때문에 사용요금이 저렴하거나 무료이다. 영국 파이낸셜타임스는 몇몇 스타트업은 한 달에 약 20달러(약 2만7000원)를 내면 아바타가 등장하는 AI 영상을 만들어주는 서비스를 제공하고 있다고 전했다.
생성형 AI는 콘텐츠를 단시간에 만들어낸다는 특징도 있다. 지난해 3월 출시된 젠-2는 한 문장을 입력하면 5분 이내에 4초 분량의 영상을 만든다.
미 싱크탱크 브루킹스 연구소는 “사람들은 텍스트, 이미지, 영상을 만들기 위해 코딩 전문가가 될 필요가 없다”며 “이제는 누구나 정치 콘텐츠 창작자가 돼 유권자나 언론에 영향력을 행사할 수 있다”고 분석했다.
거짓 정보에 유권자들은 ‘혼란’
미할 시메츠카 ‘진보적 슬로바키아(PS)’ 당대표. 미할 시메츠카 트위터 갈무리
AI로 만들어진 딥페이크 콘텐츠가 유포되면서 이미 전 세계 유권자들은 혼란을 겪고 있다.
슬로바키아 총선 이틀 전인 지난해 9월28일, 야당인 ‘진보적 슬로바키아(PS)’의 미할 시메츠카 대표가 “소수민족인 로마족에게 뇌물을 주고 표를 샀다” “선거 후 맥줏값을 두 배 올릴 것”이라는 취지로 말하는 녹취가 퍼졌다. 결국 여론조사 공개 마지막 날 여론조사 기관 세 곳 중 한 곳에서 지지율이 가장 높았던 PS는 약 5%포인트 차이로 1당 자리를 여당 스메르에 내줬다. 선거가 끝나고 나서야 해당 음성이 ‘거짓’이라는 전문가 분석이 나왔다.
인공지능(AI)이 생성한 허위·조작 정보로 피해를 본 각국 사례.
여성 정치인들은 성 착취 딥페이크 영상으로 인해 명예훼손 피해를 보기도 했다. 보수적인 무슬림이 많은 방글라데시에서는 지난 1월 총선을 앞두고 루민 파르하나 후보가 비키니를 입은 영상이 돌았다. 북아일랜드 의원인 다이앤 포사이스 역시 2022년 딥페이크 성 착취물 피해를 당해 경찰이 수사에 나섰다.
아일린 컬로티 더블린 커뮤니케이션대 조교수는 더선버세이션 기고에서 “딥페이크는 이미 여성을 희롱하고 학대하는 데 널리 사용되고 있다”며 “여성 정치인을 희롱하는 콘텐츠는 그들의 정치 참여를 제한한다”고 했다.
마이아 산두 몰도바 대통령의 딥페이크 영상 중 일부 장면(왼쪽 사진)과 산두 대통령이 실제로 연설해 지난 2월24일에 공개한 영상. TV노드 유튜브·산두 대통령 엑스 갈무리
이 밖에도 친서방으로 분류되는 마이아 산두 몰도바 대통령이 러시아에 우호적인 정당을 지지한다고 말하는 영상, 키어 스타머 영국 노동당 대표가 당원에게 욕하는 음성 등 날조 콘텐츠가 온라인에 올라왔다.
전문가들은 딥페이크 콘텐츠가 더 정교해져 시민에게 혼란을 가중할 가능성이 더 커졌다고 평가했다. 합성 데이터를 모니터링하는 시민단체 ‘신세틱퓨쳐스’ 창립자 헨리 에이더는 워싱턴포스트와의 인터뷰에서 “기술이 정교해져서 눈 깜빡임으로 딥페이크를 식별한다는 것은 옛말이 됐다”고 말했다.
“확증편향, 민주주의 제도 불신 더욱 심해질 것”
마이크로소프트사의 이미지 생성형 AI ‘이미지 크리에이터’가 그린 이미지. 이미지는 ‘후드티를 입은 남성이 트럭에 투표함을 담고 있는 모습이 찍힌 폐쇄회로(CC)TV 화면’(왼쪽)과 ‘빨간 야구모자를 쓴 남성이 집집마다 돌아다니면서 투표용지를 걷고 있는 모습이 찍힌 폐쇄회로(CC)TV 화면’ 등 거짓 정보를 묘사하고 있다. ‘디지털 혐오 대응 센터’(CCDH) 보고서 갈무리
전문가들은 AI가 만든 허위·조작 정보가 범람하면 정치 양극화가 더욱 심해질 것이라고 우려한다. 코넬대 연구진은 학술지 ‘저널 오브 데모크라시’에 “미디어를 통해 객관적 진실을 파악하기 어렵게 되면 사람들은 당파 등에 근거한 어림짐작으로 사안을 판단할 것”이라며 “그렇게 되면 정치 양극화가 극심해지면서 민주주의를 압박할 수 있다”고 분석했다.
실제로 데이터 분석 업체 파이라는 지난해 텔레그램 채널, 트럼프 전 대통령이 만든 트루스소셜 등 폐쇄적 집단이 모인 소셜미디어에서 AI가 만든 허위 정보가 많이 공유됐다고 분석했다.
AI가 만드는 거짓 정보가 방치되면 선거 제도와 선거 결과 자체에 대한 신뢰가 하락할 것이라는 전망도 나온다. 독일 싱크탱크 ‘민주주의 수호 연합’의 브렛 셰이퍼 연구원은 파이낸셜타임스와의 인터뷰에서 “(투표 결과에 대한 음모론이 퍼지면) 사람들은 ‘투표는 중요하지 않다’는 생각을 하게 될 수 있다. 이는 상당한 시민 정치 참여 감소로 이어질 것”이라고 말했다.