딥시크(왼쪽)와 챗GPT 앱. 로이터연합이미지
미국과 유럽 등의 기업에 취업하기 위해 ‘챗GPT’로 허위 이력서들을 생성한 북한 계정이 발각됐다. 중국의 한 보안 조직은 반중국 게시물에 대한 실시간 보고서를 수집하기 위해 AI 기반 감시 도구를 구축했던 것으로 전해졌다.
‘오픈AI’는 21일(현지시간) 악의적 목적으로 자사의 인공지능(AI) 모델인 챗GPT를 사용한 북한 관련 계정을 확인하고 이를 삭제했다고 밝혔다.
북한과 관련 있는 것으로 추정되는 이들 계정들은 허위 이력서와 온라인 프로필을 생성하기 위해 AI 기술을 사용한 것으로 파악됐다. AI로 만든 가짜 이력서와 프로필은 서구 기업을 속여 일자리를 얻기 위한 목적이었다고 오픈AI는 설명했다. 다만 오픈AI는 삭제한 계정 수와 이들 계정을 언제 삭제했는지 등은 밝히지 않았다.
북한은 첨단 기술을 훔치고 불법 핵무기 프로그램 자금을 확보하는 데에도 이미 생성형 AI를 사용하고 있는 것으로 알려져 있다. 생성형 AI를 이용해 채용 담당자로 위장한 프로필을 비즈니스용 사회관계망서비스에 올려둔 뒤 피해자와 오랜 기간 신뢰 관계를 구축하고, 스파이웨어를 침투시켜 자금을 빼내 가는 방식이다.
파이낸셜타임스(FT)는 북한 해커들이 이런 수법으로 싱가포르의 한 가상화폐 거래소 채용 담당자로 위장한 뒤 일본 가상화폐 거래소 엔지니어를 표적으로 삼아 가상화폐를 빼내 가는 등 수십 곳에서 10억 달러 이상의 가상화폐를 빼냈다고 보도한 바 있다.
북한 계정 외에 감시와 여론 조작 등에 챗GPT를 활용한 중국 관련 계정들도 삭제됐다. 이들 계정은 챗GPT를 이용해 미국을 비방하는 스페인어 뉴스 기사를 생성한 것으로 나타났다. 미국 사회와 정치를 비판한 내용의 이 기사는 중국 회사 명의로 남미 지역의 주요 뉴스 매체에 게재됐다.
중국의 한 보안 조직은 반중국 게시물에 대한 실시간 보고서를 수집하기 위해 AI 기반 감시 도구를 구축했다고 오픈AI는 밝혔다. 오픈AI 수석 연구원 벤 님모는 “이런 종류의 AI 기반 감시 도구를 발견한 것은 이번이 첫 번째”라고 밝혔다.