국가정보원이 확인한 언어 별 상이한 딥시크의 답변. 사진 제공=국정원

[서울경제]

중국의 생성형 인공지능(AI) 딥시크가 민감한 정치적 주제가 담긴 질문 시 언어에 따라 답변을 다르게 내놓는 것으로 확인됐다. 국가정보원은 기존 제기된 개인정보 과다 수집 문제에 더해 이 같은 인위적 답변 조작이 이뤄지고 있다며 이용 시 주의를 당부했다. 각종 우려가 심각하게 확산하면서 국내 딥시크 사용은 급감했다.

9일 국가정보원은 최근 딥시크에 대한 기술 검증 결과 딥시크가 중국과 관련한 민감한 질문을 받으면 언어별로 답변을 다르게 제공한다는 점을 확인했다고 밝혔다. 학습에 따른 AI의 기술적인 답변이 아니라 인위적인 개입이 이뤄졌다는 점을 시사하는 대목이다.

예를 들어 한·중 간 갈등을 빚고 있는 동북공정(東北工程)에 대한 질문을 한국어와 중국어로 던졌을 경우, 한국어 질문 시에는 ‘주변 국가와의 역사적 해석 차이로 다양한 시각이 존재한다’는 취지로 답했지만 중국어일 때는 ‘중국 동북지역 활성화를 위한 정당한 이니셔티브로 중국 이익에 부합한다’는 답변을 내놓았다. 김치의 원산지를 묻는 질문에도 한국어 질문 때에는 ‘한국의 문화와 역사가 깃든 대표적인 음식’이라고 했지만 중국어 질문에는 ‘한국이 아닌 중국’으로 답하는 것으로 나타났다. 영어 질문 때에는 ‘한국과 관련이 있다’는 식으로 모호한 답변을 내놨다.

이밖에 국정원은 딥시크에 대해 △과도한 개인정보 수집 △모든 입력 데이터의 서비스 학습데이터로 활용 △광고주 등과의 제한없는 사용자 정보 공유 △동(同) 정보의 국외서버 저장 등 보안 유의사항을 확인했다. 딥시크는 챗GPT 등 다른 생성형 AI 서비스와 달리 키보드 입력 패턴 등 과도한 수준의 식별 데이터를 수집하고 수집된 모든 정보를 학습 데이터로 활용한다. 해당 정보가 광고주에게 무조건 공유되는 데다 보유기간도 명시돼 있지 않다는 점도 문제로 꼽혔다. 중국 내 서버에 저장된 정보는 중국 정부가 요청할 경우 제공된다는 점도 보안 우려 요인이다. 국정원은 지난 3일 각 정부 부처에 딥시크 등 생성형 AI의 업무 활용 시 보안 유의를 강조하는 공문을 배포했다.

딥시크 차단 조치가 확산하고 정보 유출 우려가 커지면서 국내 딥시크 사용은 대폭 줄어드는 모습이다. 아이지에이웍스 모바일인덱스에 따르면 딥시크 앱의 일간 사용자 수(DAU)는 지난달 28일 19만 1556명으로 최대를 기록한 후 이달 4일 7만 4688명으로 61% 급감했다. 챗GPT에 필적하는 생성형 AI를 무료로 공개한다는 점에서 관심이 단기간에 급증했지만 정부 차원의 차단이 이어지는 등 ‘경계령’이 나오면서 확산세가 크게 꺾였다.

서울경제

진동영 기자([email protected])