메뉴 건너뛰기

"AI 기반 구글 새 검색 기능 'AI 오버뷰',
질문에 위험·엉뚱 답변" 인증글 잇따라
지난 14일 미국 실리콘밸리 구글 본사에서 열린 구글 연례 개발자 회의에서 리즈 리드 구글 검색 담당 수석부사장이 'AI 오버뷰'를 소개하고 있다. 마운틴뷰=AP 연합뉴스


"치즈가 피자에 달라붙지 않아."

"소스가 너무 많거나, 치즈가 너무 많거나, 소스가 걸쭉하거나 같은 여러 가지 이유에서 치즈가 피자에서 미끄러질 수 있어요.
소스에 무독성 접착제를 8분의 1컵 정도 추가
하면 점성을 더할 수 있습니다."

구글의 인공지능(AI) 기반 새 검색 기능인 'AI 오버뷰'의 답변이다. 인터넷상에서 화제가 된 이 답변처럼, AI 오버뷰가 일부 검색에 부정확한 결과를 생성하는 것으로 나타났다. 구글은 "매우 드문 사례"라는 입장이지만 전문가들은 "생성형 AI의 치명적 문제점을 드러낸다"고 분석한다.

한 엑스 이용자가 AI 오버뷰의 황당 답변이라며 공유한 캡처본. '치즈가 피자에 달라붙지 않는다'는 검색에 AI는 "소스에 접착제를 추가하라"는 내용의 답변을 내놨다. 엑스(X) 캡처


앞서 구글이 지난 14일 연례 개발자 회의(I/O)에서 첫 공개한 AI 오버뷰는 이용자가 입력한 검색어에 대해 구글의 AI 모델 '제미나이'가 이용자가 필요로 할 만한 검색 결과를 요약해 출처와 함께 보여준다.
구글은 최근 AI 오버뷰를 미국에 우선 출시했는데, 이후 각종 커뮤니티에는 '황당 답변을 받았다'는 인증글이 잇따라 올라오고 있다.


비즈니스 인사이더에 따르면, AI 오버뷰는 '개가 북미아이스하키리그에 출전한 적 있느냐'는 질문에 "그렇다. 2018년 63경기에 출전했다"고 답하는가 하면, '2차 세계대전 때 영국 런던의 빅벤이 독일 폭탄에 의해 파괴됐느냐'는 질문에 "지붕이 손상됐다"고 했다. 이 매체는 "한 이용자가 '올해 개봉 영화 중 가장 큰 실패작'을 검색하자 미래 흥행 수치를 예측하는 웹사이트가 결괏값으로 표시됐다고 한다"며
"AI 오버뷰는 이를 토대로 아직 개봉하지도 않은 영화를 이미 실패작이 됐다고 자신 있게 말했다"
고 전했다.

진실 판단 못하는 AI 문제점 드러나



구글은 이 같은 AI 오버뷰의 불완전한 답변들에 대해 "매우 드문 사례"라며 "이용자 대부분의 경험을 대표하지 않는다"고 비즈니스 인사이더에 밝혔다. 그러나 이 매체는 보고된 사례들이
"단지 '구성'만 할 수 있는 생성형 AI 검색의 치명적인 문제점을 상징적으로 보여주고 있다"
고 평가했다. 소스에 접착제를 추가하라는 답변의 출처는 과거 한 온라인 커뮤니티에 올라온 농담으로 알려졌는데, AI가 이를 농담이나 거짓으로 판단하지 못해 답변에 인용한 것으로 분석된다.

AI가 사실이 아닌 것을 사실인 양 말하는 현상(환각)은 챗GPT 등장 이후 줄곧 지적돼 온 것이다. 그런 만큼 많은 사람이 인지하고 있기는 하지만,
구글 검색의 경우 전 세계 20억 명이 이용하는 서비스라는 점에서 부정확한 답변은 훨씬 크고 심각한 문제를 낳을 수 있다.
구글은 연말이면 10억 명이 AI 오버뷰를 이용할 수 있도록 출시 국가를 확대해 나가겠다는 계획이다.

한국일보

번호 제목 글쓴이 날짜
22733 포르쉐 상반기 인도량 7%↓…中 판매부진에 타격 랭크뉴스 2024.07.09
22732 "유명 심리상담사에게 그루밍 성착취"‥항의하자 "잘못했다" 랭크뉴스 2024.07.09
22731 8시간 경찰 조사 받은 민희진 "업무상 배임, 코미디 같은 일… 속 후련" 랭크뉴스 2024.07.09
22730 수요일 전국에 장맛비 계속… 수도권에 최대 120㎜ 쏟아진다 랭크뉴스 2024.07.09
22729 민희진 '경찰 출석룩' 또 완판?…티셔츠 뒷면 글씨 보니 '깜짝' 랭크뉴스 2024.07.09
22728 “코미디 같은 일”…웃으며 경찰서 나선 민희진 랭크뉴스 2024.07.09
22727 아파트 화단서 발견된 ‘7500만 원’ 실마리 풀리나…3월 은행서 인출 랭크뉴스 2024.07.09
22726 [단독] "김 여사 개인적으로 알아"‥주가조작 선수와 관계는? 랭크뉴스 2024.07.09
22725 석유 싣다가 콩기름 싣다가‥무세척 탱크로리에 중국 발칵 랭크뉴스 2024.07.09
22724 러, 우크라 어린이병원도 폭격…“링거 바늘 꽂은 채 몸 피해” 랭크뉴스 2024.07.09
22723 수원에선 역주행, 부산 놀이터 돌진…모두 ‘급발진’ 주장 랭크뉴스 2024.07.09
22722 북한, 임진강 황강댐 방류한 듯…올해도 무단 방류 랭크뉴스 2024.07.09
22721 ‘트럼프 측근’ 플라이츠 미국우선정책연구소 부소장 “트럼프 재집권해도 주한미군 축소·철수 없을 것” 랭크뉴스 2024.07.09
22720 민희진 대표 "내가 원해서 조사 당겨 받아... 배임 말도 안 돼" 랭크뉴스 2024.07.09
22719 "똑똑한 사람들"…한국인 극찬한 '일론 머스크', 무슨 일 랭크뉴스 2024.07.09
22718 하와이 동포 만난 윤 대통령 “우크라 전쟁 종전에 힘 보탤 것” 랭크뉴스 2024.07.09
22717 류희림에게 돌아온 류희림의 '민원 사주' 의혹‥신고자만 경찰로 넘어가 랭크뉴스 2024.07.09
22716 아파트 화단서 발견된 7천500만원…경찰, 은행 통해 인출자 추적 랭크뉴스 2024.07.09
22715 김두관, 민주당 대표 출사표…유의미한 변수 만들까 랭크뉴스 2024.07.09
22714 얼마나 예쁘길래…히잡 쓴 세계 최고 미녀, 뜻밖의 정체 랭크뉴스 2024.07.09