기업 전자결재 양식, 직원 간 대화 패턴까지 AI에 학습시켜
보안 담당자조차 위조 구별 못할 정도로 정교한 공격
전 세계 보안 전문가 74% “AI 기반 위협이 현재 조직에 심각한 영향”
美·英·EU, 사이버보안 관련 규제·처벌 강화
“한국은 여전히 사고 발생 후 책임 물어”
[편집자주] 최근 SK텔레콤, 예스24, 한국연구재단 등이 해커들의 사이버 공격을 받아 개인정보 유출, 서비스 장애 피해를 입었다. 인공지능(AI) 시대를 맞아 사이버 위협은 더 거세지고 공격 수법은 교묘해지고 있는 반면 우리 정부와 기업들의 대응 역량은 취약한 실정이다. 국내외 사례를 통해 사이버보안 체계의 문제점을 진단하고 해법은 무엇인지 모색해본다.
“실제 상사와 똑같은 얼굴과 목소리였습니다. 영상통화로 지시를 받았기에 의심하지 않았죠.”
지난해 1월 영국 엔지니어링 회사 아럽(Arup)의 홍콩지사 직원이 인공지능(AI)이 생성한 딥페이크에 당해 2560만달러(약 348억원)를 송금하는 일이 벌어졌다. 영상은 얼굴, 목소리, 억양, 눈동자의 미묘한 움직임까지 실제와 똑같았다. 피해 직원은 보안 시스템 우회 지시까지 따랐는데, 본사에서 “그런 요청을 한 적이 없다”는 연락을 받은 뒤에야 사기라는 사실을 깨달았다.
AI는 더 이상 단순한 사이버 공격 보조 수단이 아니다. 해커는 AI를 핵심 무기로 활용하며 공격 속도와 정밀도가 기존 사이버보안 체계를 무력화하고 있다. 태국 국가사이버보안청(NCSA)에 따르면 올해 1~5월 사이버 공격은 총 1002건 발생했고, 기업의 63%가 실제 피해를 입었다. 이 중 절반 이상이 해커에게 금전적인 대가를 치렀다. 로그인 공격 시도의 94%는 자동화된 AI 봇에 의한 것으로 집계됐다.
실존 인물 모방한 딥페이크+문서 위조로 정교한 공격
생성형 AI를 악용한 사이버 공격은 기존 피싱 수법과는 근본적으로 다르다. 해커는 기업 내부 전자결재 양식, 결재 흐름, 직원 간 메신저 대화 패턴까지 AI에 학습시킨 뒤, 송금 지시나 계약서 발송과 같은 업무 시나리오를 구성한다. 여기에 실존 인물의 말투, 어휘 습관, 심지어 발화 속도까지 모방한 딥페이크 음성·영상을 결합해, 사용자가 의심 없이 따르게 만든다. 실시간 교신과 문서 위조가 결합된 정교한 공격은 ‘딥피싱(Deep Phishing)’으로 불리며, 기존의 이메일 링크 유도 방식과 달리 인간의 감각과 판단력을 정면으로 교란한다. 보안 담당자조차 실제 지시와 위조 지시를 구별하지 못할 만큼 정밀한 수법이다.
일부 해커는 생성형 AI를 사칭한 가짜 웹사이트(피싱사이트)를 만들어, 사용자가 접속하는 순간 개인정보를 탈취하는 악성 프로그램(스파이웨어)을 몰래 설치하는 기법까지 동원하고 있다. 특히 오픈AI ‘챗GPT’를 흉내 낸 가짜 로그인 페이지나 앱 다운로드 사이트가 확산하고 있다. 글로벌 보안 기업 체크포인트에 따르면, 지난해 기준 챗GPT 관련 신규 등록 도메인 1000여개 중 4%가량이 악성 도메인으로 판별됐다. 이들 중 일부는 실제와 흡사한 로그인 화면을 구성해 사용자 인증 정보를 탈취한다.
생성형 AI 브랜드를 도용한 공격은 사용자 신뢰를 악용해, 브라우저 확장 프로그램 설치나 무료 이용 유도 방식으로 자연스럽게 침투하는 것이 특징이다. 보안 기업 카스퍼스키 글로벌 리서치팀(GReAT)은 지난해 말 “가짜 챗GPT 앱을 통해 정보 수집용 백도어 악성코드 ‘PipeMagic’이 유포된 사례가 있었다”며 “해당 앱은 구글 플레이스토어나 애플 앱스토어가 아닌 제3의 링크를 통해 배포되며, 설치 즉시 내부 네트워크를 탐색하고 데이터 전송 기능을 수행한다”고 경고했다.
글로벌 사이버보안 전문가 74% “AI 기반 위협 심각한 영향”
영국 사이버보안 기업 다크트레이스(Darktrace)가 최근 전 세계 사이버보안 전문가 1500명을 대상으로 조사해 발표한 설문에 따르면, 응답자의 74%가 “AI 기반 위협이 현재 조직에 심각한 영향을 주고 있다”고 답했다. 응답자의 45%는 “AI 공격에 대한 대응 역량이 부족하다”고 답했다.
공격자들은 AI를 활용해 언어 장벽을 허물고, 악성코드를 실시간으로 변조하며, 공격 시나리오를 실시간 수정한다. 러시아, 중국, 이란, 북한 등 주요 해커 조직들은 이미 거대언어모델(LLM)을 기반으로 자체 AI 시스템을 운용 중이며, 일부는 이를 오픈 저장소에 올려 다른 해커들과 공유하고 있는 것으로 전해졌다. 기존 보안 솔루션으로는 AI 기반 위협을 실시간 탐지하거나 선제적으로 차단하기가 점점 어려워지고 있는 것이다.
이희조 고려대 컴퓨터공학과 교수(전 안랩 CTO)는 “AI는 공격자에게도 방어자에게도 모두 유리한 무기”라며 “공격 측면에선 자동화된 취약점 분석과 빠른 재활용이 가능해지고, 방어 측면에선 개발 단계부터 보안 취약점을 선제적으로 제거할 수 있다”고 설명했다. 그는 이어 “운영 중인 시스템에 대응하는 것보다 설계 단계에서 AI 기반 보안 체계를 구축하는 것이 훨씬 효과적”이라고 덧붙였다.
미국은 공시 의무·EU는 법제화… 뒤처진 한국
미국, 유럽, 영국 등은 AI발 보안 위협에 맞서 발 빠르게 대응에 나서고 있다. 미국은 2023년 ‘국가사이버안보전략’을 통해 상장사에 사이버 사고를 연례보고서에 공시하도록 의무화했다. 사이버 리스크를 대외에 투명하게 알리라는 취지다. 또 연방기관에는 ‘제로트러스트(Zero Trust)’ 보안 체계를 도입했는데, 이는 모든 사용자와 기기를 기본적으로 신뢰하지 않고, 시스템에 접근할 때마다 별도의 인증과 검증을 반복하는 방식의 보안 구조다. 기존처럼 내부망에 한 번 들어오면 자유롭게 접근할 수 있는 구조가 아니라, 모든 접속을 잠재적 위협으로 간주하고 매번 최소 권한만 허용하는 방식이다.
유럽연합(EU)은 ‘사이버 복원력법(Cyber Resilience Act)’을 제정해 모든 디지털 제품·서비스에 보안 설계를 의무화했고, 영국은 2022년 통신보안법을 시행해 통신사에 AI 공격 감지 및 보안 구축 의무를 부과하고 있다. 위반 시에는 연매출의 10%까지 과징금이 부과된다.
이 교수는 “AI·클라우드 기반 시스템이 기본이 된 시대에 한국은 여전히 ‘사건 발생 후 대응’에 머무는 인식이 문제”라며 “미국처럼 보안 예산, 책임자, 대응 전략을 기업 공시 대상에 포함시키는 제도를 고려할 시점”이라고 말했다.
시스코가 지난해 발표한 ‘사이버 보안 준비 지수’에 따르면, 국내 기업 중 보안 대응 수준이 ‘성숙 단계’에 도달한 비율은 고작 3%에 그쳤다. 이는 아시아 평균(10%)과 글로벌 평균(15%)에 한참 못 미치는 수치다. 한국은 또 보안 전략 수립, 위험 탐지 능력, 인적 역량 등 모든 항목에서 평균 이하의 평가를 받았다.
박춘식 아주대 사이버보안학과 교수(전 국가보안기술연구소장)는 “한국은 여전히 사고 발생 후 책임을 따지는 방식에 머물고 있다”며 “미국처럼 보안 사고에 대해 막대한 법적 책임이 부과되고, 최고경영자(CEO) 차원의 인식과 대응이 강화되는 구조가 마련돼야 기업의 실질적 보안 투자가 이뤄질 수 있다”고 말했다.
국가정보원이 지난달 공개한 ‘2025 국가 정보보호 백서’에서는 정부·공공기관의 보안 대응력이 취약하다는 진단이 나왔다. 정보보호 전담부서를 운영하는 기관은 전체의 67.1%에 불과했고, 전담 인력이 5명 이상인 기관은 18.6%에 그쳤다. 정보보호 예산 역시 전체 정보화 예산 대비 10% 이상 비율을 유지한 기관은 57.3%로, 2022년(64.7%) 대비 줄어든 수치였다.
박 교수는 “AI발 사이버 위협을 현실적인 재난 수준으로 인식하고 대응 전략을 근본적으로 재정립할 필요가 있다”고 말했다.
보안 담당자조차 위조 구별 못할 정도로 정교한 공격
전 세계 보안 전문가 74% “AI 기반 위협이 현재 조직에 심각한 영향”
美·英·EU, 사이버보안 관련 규제·처벌 강화
“한국은 여전히 사고 발생 후 책임 물어”
[편집자주] 최근 SK텔레콤, 예스24, 한국연구재단 등이 해커들의 사이버 공격을 받아 개인정보 유출, 서비스 장애 피해를 입었다. 인공지능(AI) 시대를 맞아 사이버 위협은 더 거세지고 공격 수법은 교묘해지고 있는 반면 우리 정부와 기업들의 대응 역량은 취약한 실정이다. 국내외 사례를 통해 사이버보안 체계의 문제점을 진단하고 해법은 무엇인지 모색해본다.
일러스트=챗GPT
“실제 상사와 똑같은 얼굴과 목소리였습니다. 영상통화로 지시를 받았기에 의심하지 않았죠.”
지난해 1월 영국 엔지니어링 회사 아럽(Arup)의 홍콩지사 직원이 인공지능(AI)이 생성한 딥페이크에 당해 2560만달러(약 348억원)를 송금하는 일이 벌어졌다. 영상은 얼굴, 목소리, 억양, 눈동자의 미묘한 움직임까지 실제와 똑같았다. 피해 직원은 보안 시스템 우회 지시까지 따랐는데, 본사에서 “그런 요청을 한 적이 없다”는 연락을 받은 뒤에야 사기라는 사실을 깨달았다.
AI는 더 이상 단순한 사이버 공격 보조 수단이 아니다. 해커는 AI를 핵심 무기로 활용하며 공격 속도와 정밀도가 기존 사이버보안 체계를 무력화하고 있다. 태국 국가사이버보안청(NCSA)에 따르면 올해 1~5월 사이버 공격은 총 1002건 발생했고, 기업의 63%가 실제 피해를 입었다. 이 중 절반 이상이 해커에게 금전적인 대가를 치렀다. 로그인 공격 시도의 94%는 자동화된 AI 봇에 의한 것으로 집계됐다.
실존 인물 모방한 딥페이크+문서 위조로 정교한 공격
생성형 AI를 악용한 사이버 공격은 기존 피싱 수법과는 근본적으로 다르다. 해커는 기업 내부 전자결재 양식, 결재 흐름, 직원 간 메신저 대화 패턴까지 AI에 학습시킨 뒤, 송금 지시나 계약서 발송과 같은 업무 시나리오를 구성한다. 여기에 실존 인물의 말투, 어휘 습관, 심지어 발화 속도까지 모방한 딥페이크 음성·영상을 결합해, 사용자가 의심 없이 따르게 만든다. 실시간 교신과 문서 위조가 결합된 정교한 공격은 ‘딥피싱(Deep Phishing)’으로 불리며, 기존의 이메일 링크 유도 방식과 달리 인간의 감각과 판단력을 정면으로 교란한다. 보안 담당자조차 실제 지시와 위조 지시를 구별하지 못할 만큼 정밀한 수법이다.
일부 해커는 생성형 AI를 사칭한 가짜 웹사이트(피싱사이트)를 만들어, 사용자가 접속하는 순간 개인정보를 탈취하는 악성 프로그램(스파이웨어)을 몰래 설치하는 기법까지 동원하고 있다. 특히 오픈AI ‘챗GPT’를 흉내 낸 가짜 로그인 페이지나 앱 다운로드 사이트가 확산하고 있다. 글로벌 보안 기업 체크포인트에 따르면, 지난해 기준 챗GPT 관련 신규 등록 도메인 1000여개 중 4%가량이 악성 도메인으로 판별됐다. 이들 중 일부는 실제와 흡사한 로그인 화면을 구성해 사용자 인증 정보를 탈취한다.
생성형 AI 브랜드를 도용한 공격은 사용자 신뢰를 악용해, 브라우저 확장 프로그램 설치나 무료 이용 유도 방식으로 자연스럽게 침투하는 것이 특징이다. 보안 기업 카스퍼스키 글로벌 리서치팀(GReAT)은 지난해 말 “가짜 챗GPT 앱을 통해 정보 수집용 백도어 악성코드 ‘PipeMagic’이 유포된 사례가 있었다”며 “해당 앱은 구글 플레이스토어나 애플 앱스토어가 아닌 제3의 링크를 통해 배포되며, 설치 즉시 내부 네트워크를 탐색하고 데이터 전송 기능을 수행한다”고 경고했다.
그래픽=손민균
글로벌 사이버보안 전문가 74% “AI 기반 위협 심각한 영향”
영국 사이버보안 기업 다크트레이스(Darktrace)가 최근 전 세계 사이버보안 전문가 1500명을 대상으로 조사해 발표한 설문에 따르면, 응답자의 74%가 “AI 기반 위협이 현재 조직에 심각한 영향을 주고 있다”고 답했다. 응답자의 45%는 “AI 공격에 대한 대응 역량이 부족하다”고 답했다.
공격자들은 AI를 활용해 언어 장벽을 허물고, 악성코드를 실시간으로 변조하며, 공격 시나리오를 실시간 수정한다. 러시아, 중국, 이란, 북한 등 주요 해커 조직들은 이미 거대언어모델(LLM)을 기반으로 자체 AI 시스템을 운용 중이며, 일부는 이를 오픈 저장소에 올려 다른 해커들과 공유하고 있는 것으로 전해졌다. 기존 보안 솔루션으로는 AI 기반 위협을 실시간 탐지하거나 선제적으로 차단하기가 점점 어려워지고 있는 것이다.
이희조 고려대 컴퓨터공학과 교수(전 안랩 CTO)는 “AI는 공격자에게도 방어자에게도 모두 유리한 무기”라며 “공격 측면에선 자동화된 취약점 분석과 빠른 재활용이 가능해지고, 방어 측면에선 개발 단계부터 보안 취약점을 선제적으로 제거할 수 있다”고 설명했다. 그는 이어 “운영 중인 시스템에 대응하는 것보다 설계 단계에서 AI 기반 보안 체계를 구축하는 것이 훨씬 효과적”이라고 덧붙였다.
미국은 공시 의무·EU는 법제화… 뒤처진 한국
미국, 유럽, 영국 등은 AI발 보안 위협에 맞서 발 빠르게 대응에 나서고 있다. 미국은 2023년 ‘국가사이버안보전략’을 통해 상장사에 사이버 사고를 연례보고서에 공시하도록 의무화했다. 사이버 리스크를 대외에 투명하게 알리라는 취지다. 또 연방기관에는 ‘제로트러스트(Zero Trust)’ 보안 체계를 도입했는데, 이는 모든 사용자와 기기를 기본적으로 신뢰하지 않고, 시스템에 접근할 때마다 별도의 인증과 검증을 반복하는 방식의 보안 구조다. 기존처럼 내부망에 한 번 들어오면 자유롭게 접근할 수 있는 구조가 아니라, 모든 접속을 잠재적 위협으로 간주하고 매번 최소 권한만 허용하는 방식이다.
유럽연합(EU)은 ‘사이버 복원력법(Cyber Resilience Act)’을 제정해 모든 디지털 제품·서비스에 보안 설계를 의무화했고, 영국은 2022년 통신보안법을 시행해 통신사에 AI 공격 감지 및 보안 구축 의무를 부과하고 있다. 위반 시에는 연매출의 10%까지 과징금이 부과된다.
이 교수는 “AI·클라우드 기반 시스템이 기본이 된 시대에 한국은 여전히 ‘사건 발생 후 대응’에 머무는 인식이 문제”라며 “미국처럼 보안 예산, 책임자, 대응 전략을 기업 공시 대상에 포함시키는 제도를 고려할 시점”이라고 말했다.
시스코가 지난해 발표한 ‘사이버 보안 준비 지수’에 따르면, 국내 기업 중 보안 대응 수준이 ‘성숙 단계’에 도달한 비율은 고작 3%에 그쳤다. 이는 아시아 평균(10%)과 글로벌 평균(15%)에 한참 못 미치는 수치다. 한국은 또 보안 전략 수립, 위험 탐지 능력, 인적 역량 등 모든 항목에서 평균 이하의 평가를 받았다.
박춘식 아주대 사이버보안학과 교수(전 국가보안기술연구소장)는 “한국은 여전히 사고 발생 후 책임을 따지는 방식에 머물고 있다”며 “미국처럼 보안 사고에 대해 막대한 법적 책임이 부과되고, 최고경영자(CEO) 차원의 인식과 대응이 강화되는 구조가 마련돼야 기업의 실질적 보안 투자가 이뤄질 수 있다”고 말했다.
국가정보원이 지난달 공개한 ‘2025 국가 정보보호 백서’에서는 정부·공공기관의 보안 대응력이 취약하다는 진단이 나왔다. 정보보호 전담부서를 운영하는 기관은 전체의 67.1%에 불과했고, 전담 인력이 5명 이상인 기관은 18.6%에 그쳤다. 정보보호 예산 역시 전체 정보화 예산 대비 10% 이상 비율을 유지한 기관은 57.3%로, 2022년(64.7%) 대비 줄어든 수치였다.
박 교수는 “AI발 사이버 위협을 현실적인 재난 수준으로 인식하고 대응 전략을 근본적으로 재정립할 필요가 있다”고 말했다.
