메뉴 건너뛰기

'안전성 평가 허브' 웹페이지 공개…"투명성 강화"


오픈AI 로고
[로이터 연합뉴스 자료사진. 재판매 및 DB 금지]


(샌프란시스코=연합뉴스) 김태종 특파원 = 챗GPT 개발사 오픈AI는 14일(현지시간) '자사 AI 모델에 대한 안전성 평가 결과를 발표하는 '안전성 평가 허브'(Safety Evaluations Hub)라는 웹페이지를 공개한다고 밝혔다.

이 웹페이지에서는 자사 AI 모델이 유해 콘텐츠 생성, 탈옥(jailbreak·안전 장치를 우회해 제한된 콘텐츠 생성), 환각(hallucination) 등의 다양한 테스트에서 어떤 점수를 받았는지를 보여주게 된다.

오픈AI는 "이 허브는 우리의 투명성 강화 노력"이라며 "지속적으로 관련 지표를 공유하고, 중요한 업데이트가 있을 때마다 갱신하겠다"고 전했다.

또 "이 허브에 안전성 평가 결과의 일부를 공개해 오픈AI 시스템의 안전성 성과를 더 쉽게 이해할 수 있고 투명성을 높이기 위한 업계 전반의 노력도 지원할 수 있을 것"이라고 덧붙였다.

오픈AI의 AI 모델 투명성 강화 노력은 최근 일부 모델을 둘러싸고 논란이 제기됐기 때문이다.

정보기술(IT) 전문 매체 테크크런치에 따르면 최근 몇 달간 오픈AI는 일부 대표 모델에 대해 안전성 테스트를 급하게 진행하고, 다른 모델에 대해서는 기술 보고서를 공개하지 않았다는 지적을 받아왔다.

또 지난 3월 말 챗GPT의 기본 모델인 GPT-4o의 업데이트 이후 사용자들의 불만이 커지면서 최근에는 업데이트를 전면 취소하기도 했다.

GPT-4o 업데이트는 챗GPT가 사용자 질문이나 말에 칭찬이나 동조를 많이 하도록 만들어졌는데, 문맥이나 상황과 맞지 않는 반응이 나올 때가 있었기 때문이다.

일부 사용자 사이에서는 동물을 죽였다거나 금주 약속을 깼다는 얘기에도 "훌륭하다"는 '생뚱맞은 칭찬'을 받았다는 경험담이 나왔다.

샘 올트먼 오픈AI 최고경영자(CEO)도 지난달 28일 엑스(X·옛 트위터)를 통해 문제를 인정했고, 공식 블로그를 통해 후속 조치를 예고한 바 있다.

[email protected]

연합뉴스

번호 제목 글쓴이 날짜
48247 [속보]이재명 “다음 정부 명칭은 ‘국민주권정부’” 랭크뉴스 2025.05.15
48246 노출 금지랬는데 시스루?… 칸 영화제 레드카펫서 쫓겨난 中 여배우 랭크뉴스 2025.05.15
48245 ‘2조원대 빌트인 가구 담합 혐의’ 최양하 前 한샘 회장 2심도 무죄 랭크뉴스 2025.05.15
48244 [속보] 김용태 "윤석열 찾아뵙고 정중하게 탈당 권고드리겠다" 랭크뉴스 2025.05.15
48243 "우리가 니네 하청업체야? XX들"‥'고발사주' 폭로에 파문 랭크뉴스 2025.05.15
48242 [속보] ‘2조원대 빌트인 가구 담합 혐의’ 최양하 前 한샘 회장 2심도 무죄 랭크뉴스 2025.05.15
48241 [속보] 김용태 비대위원장 “尹 탈당 권고… 대선 승리 위해 결단해 달라” 랭크뉴스 2025.05.15
48240 [속보] 국민의힘 김용태 "윤석열 찾아뵙고 정중하게 탈당 권고드리겠다" 랭크뉴스 2025.05.15
48239 유시민의 대선 득표 예측…“55% 대 35% 대 10%” 랭크뉴스 2025.05.15
48238 [속보] 김용태 “윤석열 전 대통령에 정중하게 탈당 권고드린다” 랭크뉴스 2025.05.15
48237 김문수, '정호용 고문 임명' 논란 "저와 상의한 것 없다" 랭크뉴스 2025.05.15
48236 홍준표 “노무현 따라 민주당 갈걸” 국힘 사기경선 맹폭 랭크뉴스 2025.05.15
48235 1분기에만 90개 사라져… 금융 당국, 은행 점포 폐쇄 기준 강화 랭크뉴스 2025.05.15
48234 이재명 "김상욱 지지 감사‥민주당 입당해 함께하면 좋겠다" 랭크뉴스 2025.05.15
48233 "김문수, 尹에 탈당 말라 요청" 보도에…김 측 "그런 말 없었다" 랭크뉴스 2025.05.15
48232 민주 "사법부, 지귀연 룸살롱 의혹 자정 포기‥후속 대응할 것" 랭크뉴스 2025.05.15
48231 ‘등기’ 나오는 실버타운 ‘스프링카운티자이’ 전평형 ‘신고가’… “희소성에 수요 몰려” 랭크뉴스 2025.05.15
48230 이재명, 김상욱 지지 선언에 ‘러브콜’로 화답···“입당하면 좋겠다” 랭크뉴스 2025.05.15
48229 법원, 지귀연 판사 유흥주점 의혹에 "진위 여부 확인 안 돼" 랭크뉴스 2025.05.15
48228 이재명 “재명아 넌 가능성 있어…오늘의 저를 있게 한 말” 랭크뉴스 2025.05.15