지난 14일 미국 실리콘밸리 구글 본사에서 열린 구글 연례 개발자 회의에서 리즈 리드 구글 검색 담당 수석부사장이 'AI 오버뷰'를 소개하고 있다. 마운틴뷰=AP 연합뉴스

"치즈가 피자에 달라붙지 않아."

"소스가 너무 많거나, 치즈가 너무 많거나, 소스가 걸쭉하거나 같은 여러 가지 이유에서 치즈가 피자에서 미끄러질 수 있어요. 하면 점성을 더할 수 있습니다."

구글의 인공지능(AI) 기반 새 검색 기능인 'AI 오버뷰'의 답변이다. 인터넷상에서 화제가 된 이 답변처럼, AI 오버뷰가 일부 검색에 부정확한 결과를 생성하는 것으로 나타났다. 구글은 "매우 드문 사례"라는 입장이지만 전문가들은 "생성형 AI의 치명적 문제점을 드러낸다"고 분석한다.

한 엑스 이용자가 AI 오버뷰의 황당 답변이라며 공유한 캡처본. '치즈가 피자에 달라붙지 않는다'는 검색에 AI는 "소스에 접착제를 추가하라"는 내용의 답변을 내놨다. 엑스(X) 캡처

앞서 구글이 지난 14일 연례 개발자 회의(I/O)에서 첫 공개한 AI 오버뷰는 이용자가 입력한 검색어에 대해 구글의 AI 모델 '제미나이'가 이용자가 필요로 할 만한 검색 결과를 요약해 출처와 함께 보여준다.

비즈니스 인사이더에 따르면, AI 오버뷰는 '개가 북미아이스하키리그에 출전한 적 있느냐'는 질문에 "그렇다. 2018년 63경기에 출전했다"고 답하는가 하면, '2차 세계대전 때 영국 런던의 빅벤이 독일 폭탄에 의해 파괴됐느냐'는 질문에 "지붕이 손상됐다"고 했다. 이 매체는 "한 이용자가 '올해 개봉 영화 중 가장 큰 실패작'을 검색하자 미래 흥행 수치를 예측하는 웹사이트가 결괏값으로 표시됐다고 한다"며 고 전했다.

진실 판단 못하는 AI 문제점 드러나

구글은 이 같은 AI 오버뷰의 불완전한 답변들에 대해 "매우 드문 사례"라며 "이용자 대부분의 경험을 대표하지 않는다"고 비즈니스 인사이더에 밝혔다. 그러나 이 매체는 보고된 사례들이고 평가했다. 소스에 접착제를 추가하라는 답변의 출처는 과거 한 온라인 커뮤니티에 올라온 농담으로 알려졌는데, AI가 이를 농담이나 거짓으로 판단하지 못해 답변에 인용한 것으로 분석된다.

AI가 사실이 아닌 것을 사실인 양 말하는 현상(환각)은 챗GPT 등장 이후 줄곧 지적돼 온 것이다. 그런 만큼 많은 사람이 인지하고 있기는 하지만, 구글은 연말이면 10억 명이 AI 오버뷰를 이용할 수 있도록 출시 국가를 확대해 나가겠다는 계획이다.

한국일보

실리콘밸리= 이서희 특파원 ([email protected])