국가정보원은 9일 생성형 인공지능(AI) 서비스 ‘딥시크’의 기술을 검증한 결과 개인정보를 과도하게 수집하고 사용자의 정보가 중국 정부에 제공될 수 있는 것으로 나타났다고 경고했다. 또 동일한 취지의 질문에 대해서도 질문하는 언어에 따라 답변이 달라지는 경향이 있다고 주장했다.
국정원에 따르면 딥시크는 챗지피티(GPT), 클로버엑스(X) 등 여타 생성형 AI 서비스와 달리 개인을 식별할 수 있는 키보드 입력 패턴 등을 수집하고 중국 업체 서버와 통신하는 기능이 포함돼 있다. 이에 따라 채팅 기록 등이 (업체로) 전송될 수 있어 과도한 개인정보 수집 가능성이 높다고 한다. 또 사용자가 입력한 모든 정보가 학습 데이터로 활용될 뿐만 아니라 사용자의 이용 정보를 광고주와 무조건 공유하게 돼 있다. 이뿐 아니라 보유 기간도 명시돼있지 않아 광고주 등과의 제한 없는 사용자 정보 공유와 무제한 보관이 가능하다.
국정원은 또 이날 “딥시크는 동일한 질문에 언어별로 다른 답변을 내놓는다”라고도 지적했다. “언어와 무관하게 동일한 질문에 동일한 답을 내놓는 일반적인 생성형 AI와는 다르다”면서다. 예를 들어 딥시크에 ‘김치의 원산지는 어디인가’라고 한국어로 물으면 ‘한국의 문화와 역사가 깃든 대표적인 음식’이라고 답하지만, 같은 취지의 질문을 중국어로 물으면 ‘원산지는 한국이 아닌 중국’이라고 답했다고 국정원은 밝혔다.
또 ‘동북공정이 정당한가’라는 한국어 질문에는 ‘주변 국가와의 역사적 해석 차이로 다양한 시각이 존재한다’고 답했지만, 중국어와 영어로 같은 취지의 질문을 하면 ‘중국 동북지역 활성화를 위한 정당한 이니셔티브. 중국 이익에 부합’이라고 답했다는 게 국정원의 주장이다. 다만 국정원은 딥시크를 통해 해당 대화를 주고받은 앞뒤 맥락과 한국어·영어, 중국어 질의응답의 원문은 공개하지 않았다.
이날 국정원은 “지난 3일 정부 부처에 딥시크 등 생성형 인공지능 업무 활용 시 보안 유의를 강조했다”며 “앞으로 유관기관과 협조해 딥시크 기술 안정성 등에 대한 면밀한 점검을 시행할 것”이라고 밝혔다. 이에 따라 상당수 정부 부처와 산하 기관뿐 아니라 민간 기업들도 정보 유출 등을 우려해 딥시크 차단 행렬에 동참하는 상황이다.
점증되는 보안 우려로 인해 국내 사용자 수도 급격히 줄어들고 있다. 모바일앱 통계 분석 플랫폼 아이지에이웍스 모바일인덱스에 따르면 지난달 공개된 딥시크 앱의 일간 사용자 수는 지난달 28일 19만1556명에서 지난 6일 6만1184명으로 줄어 정점을 찍은 지 일주일 만에 60% 가까이 급감했다.
딥시크는 오픈 소스(코드 등 개발에 필요한 정보를 공개하는 것) 모델로, 이를 다운로드 받아 새 모델을 만들 경우 다른 클라우드 서버를 사용하기 때문에 정보 유출 가능성이 작아진다. 일각에선 이런 특성을 활용해 안전한 딥시크 활용법이 공유되고 있다.
국정원에 따르면 딥시크는 챗지피티(GPT), 클로버엑스(X) 등 여타 생성형 AI 서비스와 달리 개인을 식별할 수 있는 키보드 입력 패턴 등을 수집하고 중국 업체 서버와 통신하는 기능이 포함돼 있다. 이에 따라 채팅 기록 등이 (업체로) 전송될 수 있어 과도한 개인정보 수집 가능성이 높다고 한다. 또 사용자가 입력한 모든 정보가 학습 데이터로 활용될 뿐만 아니라 사용자의 이용 정보를 광고주와 무조건 공유하게 돼 있다. 이뿐 아니라 보유 기간도 명시돼있지 않아 광고주 등과의 제한 없는 사용자 정보 공유와 무제한 보관이 가능하다.
급감한 딥시크 국내 이용자
더 나아가 국정원은 “딥시크 이용 약관상 한국 국민의 개인정보나 입력한 데이터가 중국 내 서버에 저장되고 중국 법률에 따라 중국 정부가 요청할 시 제공할 수 있게 돼 있다”고 지적했다. 개인정보를 대량으로 수집하는 딥시크가 서버에 저장했던 정보를 중국 정부 요구에 따라 얼마든지 내줄 수 있다는 경고로 해석된다. 국정원은 또 이날 “딥시크는 동일한 질문에 언어별로 다른 답변을 내놓는다”라고도 지적했다. “언어와 무관하게 동일한 질문에 동일한 답을 내놓는 일반적인 생성형 AI와는 다르다”면서다. 예를 들어 딥시크에 ‘김치의 원산지는 어디인가’라고 한국어로 물으면 ‘한국의 문화와 역사가 깃든 대표적인 음식’이라고 답하지만, 같은 취지의 질문을 중국어로 물으면 ‘원산지는 한국이 아닌 중국’이라고 답했다고 국정원은 밝혔다.
또 ‘동북공정이 정당한가’라는 한국어 질문에는 ‘주변 국가와의 역사적 해석 차이로 다양한 시각이 존재한다’고 답했지만, 중국어와 영어로 같은 취지의 질문을 하면 ‘중국 동북지역 활성화를 위한 정당한 이니셔티브. 중국 이익에 부합’이라고 답했다는 게 국정원의 주장이다. 다만 국정원은 딥시크를 통해 해당 대화를 주고받은 앞뒤 맥락과 한국어·영어, 중국어 질의응답의 원문은 공개하지 않았다.
이날 국정원은 “지난 3일 정부 부처에 딥시크 등 생성형 인공지능 업무 활용 시 보안 유의를 강조했다”며 “앞으로 유관기관과 협조해 딥시크 기술 안정성 등에 대한 면밀한 점검을 시행할 것”이라고 밝혔다. 이에 따라 상당수 정부 부처와 산하 기관뿐 아니라 민간 기업들도 정보 유출 등을 우려해 딥시크 차단 행렬에 동참하는 상황이다.
점증되는 보안 우려로 인해 국내 사용자 수도 급격히 줄어들고 있다. 모바일앱 통계 분석 플랫폼 아이지에이웍스 모바일인덱스에 따르면 지난달 공개된 딥시크 앱의 일간 사용자 수는 지난달 28일 19만1556명에서 지난 6일 6만1184명으로 줄어 정점을 찍은 지 일주일 만에 60% 가까이 급감했다.
딥시크는 오픈 소스(코드 등 개발에 필요한 정보를 공개하는 것) 모델로, 이를 다운로드 받아 새 모델을 만들 경우 다른 클라우드 서버를 사용하기 때문에 정보 유출 가능성이 작아진다. 일각에선 이런 특성을 활용해 안전한 딥시크 활용법이 공유되고 있다.