메뉴 건너뛰기

주기적으로 위험성 평가·관리
악용 가능성 클 땐 배포 않기로


네이버가 국내 기업 최초로 인공지능(AI)의 통제력 상실과 악용을 방지하기 위한 체계를 마련했다. AI가 인류에 미칠 영향을 둘러싼 우려가 커지는 가운데 세계적 빅테크들이 앞다퉈 자구책을 내놓는 흐름의 연장선이다.

네이버는 17일 자체 기술 채널 ‘채널 테크’를 통해 AI 안전성 실천 체계인 ‘네이버 AI 안전 프레임워크(ASF)’를 발표했다. 네이버가 AI 시스템을 개발하고 배포하는 모든 과정에서 잠재적 위험을 인식·평가·관리하기 위한 대응체계다.

네이버 ASF는 AI 시스템이 초래할 수 있는 위험을 ‘통제력 상실 위험’과 ‘악용 위험’으로 정의했다.

인간이 AI 시스템에 손쓰지 못하게 되는 통제력 상실 위험은 ‘AI 위험 평가 스케일’을 통해 주기적으로 평가하고 관리한다. 현존 최고 성능의 AI 시스템을 ‘프런티어 AI’로 정의하고, 이 기술 수준에 해당하는 AI 시스템은 3개월마다 위험 평가를 한다. 시스템 능력이 기존보다 6배 이상 급격히 증가할 땐 추가 평가를 진행한다.

악용 가능성에는 ‘AI 위험 평가 매트릭스’를 적용한다. 이는 AI 시스템의 사용 목적과 안전조치 필요성 정도에 따라 각각 다른 방법으로 위험을 관리한다. 예를 들어 생화학 물질 개발처럼 특수한 목적으로 사용되는 AI 시스템은 특별한 자격이 있는 사용자에게만 제공해 위험을 완화한다. 안전조치 필요성이 높다면 추가적인 기술적·정책적 안전조치를 통해 위험이 완화될 때까진 배포하지 않는다.

아울러 네이버 ASF를 문화적 다양성을 반영한 AI 안전성 체계로 발전시킬 계획이다. 다른 국가의 정부나 기업과 해당 국가의 언어와 고유 데이터를 활용한 ‘소버린 AI’를 공동 개발하면서 특정 문화권에서 성립될 수 있는 AI 시스템의 위험을 식별하겠다는 것이다.

최수연 네이버 대표이사는 “네이버는 한국에서 소버린 AI ‘하이퍼클로바 X’를 개발한 경험을 통해 문화적·지정학적 상황과 지역적 이해가 AI의 성능뿐만 아니라 안전성에도 영향을 미친다는 점을 실증했다”고 말했다.

네이버와 삼성전자, 구글 딥마인드, 아마존, 메타, 마이크로소프트(MS), 오픈AI, 앤트로픽 등은 지난달 AI 서울 정상회의에서 ‘프런티어 AI 안전 서약’에 동참했다. 최첨단 AI 모델의 위험을 측정하기 위한 안전 프레임워크를 게시하고, 임계 수준을 넘어서는 위험을 완화하지 못하면 모델을 개발하거나 배포하지 않기로 뜻을 모았다.

경향신문

번호 제목 글쓴이 날짜
32367 ‘韓 입맛 만만치 않네’... 커피계 애플 블루보틀도, 美 간판 치킨윙 윙스탑도 ‘쓴맛’ 랭크뉴스 2024.07.31
32366 곽규택 "지가 뭔데" 정청래 "발언 무기한 중지"…법사위 또 난장판 랭크뉴스 2024.07.31
32365 [속보] 방통위, 오후 5시 공영방송 이사 선임 비공개회의 랭크뉴스 2024.07.31
32364 고소·고발 잇따라…‘티메프 사태’ 대대적 수사 들어가나 랭크뉴스 2024.07.31
32363 "온몸에 찔리고 베인 상처" 일본도 피해자 '부검 결과' 랭크뉴스 2024.07.31
32362 하마스 정치 최고지도자 이란서 피살…“이스라엘 소행” 랭크뉴스 2024.07.31
32361 삼성전자 보통주·우선주 361원 분기배당… 2조4500억원 규모 랭크뉴스 2024.07.31
32360 “어차피 세계 짱은 나” 16살 금메달리스트 ‘반효진’의 패기 랭크뉴스 2024.07.31
32359 "메모리의 봄" 왔다...부활한 삼성전자, TSMC 분기 매출 뛰어넘어 랭크뉴스 2024.07.31
32358 [단독] 코인세탁방서 빨래 대신 '밥상' 차린 불청객…무인점포 수난시대 랭크뉴스 2024.07.31
32357 하반기 모집 거부한 전공의들 "복귀하느니 대기업·제약사 간다" 랭크뉴스 2024.07.31
32356 에코프로, 2분기 영업손실 546억…적자 전환 랭크뉴스 2024.07.31
32355 “유기동물 절멸할 것” 튀르키예 ‘대량 학살법’ 통과 랭크뉴스 2024.07.31
32354 "노조 없어서 감동"…김문수 노동장관 지명에 과거 발언 재조명 랭크뉴스 2024.07.31
32353 ‘큐텐 정산지연’ 싱가포르서는 작년 3월 발생…당시 “기술적 오류” 변명 랭크뉴스 2024.07.31
32352 [속보]與사무총장 "한동훈, 임명권 가진 당직자 일괄 사퇴해달라" 랭크뉴스 2024.07.31
32351 25만 원 지원금법·노란봉투법 법사위 통과…또 필리버스터 정국 예고 랭크뉴스 2024.07.31
32350 '수사 외압 의혹' 백해룡 경정, 조지호 서울청장 경고에 이의 신청 랭크뉴스 2024.07.31
32349 [르포] 쐈는지도 몰랐는데 불붙어 떨어지는 드론…레이저 격추 시연 랭크뉴스 2024.07.31
32348 윤석열엔 “안도”, 문재인 겨냥 “시해”…‘극단 성향’ 김태규 방통위원 랭크뉴스 2024.07.31