| 김범준 성균관대 물리학과 교수
과학소설 작가 아서 클라크는 “고도로 발달한 기술은 마법과 구별할 수 없다”는 말을 남겼다. 과학자로 30여년을 보냈고, 인공지능 관련 물리학 논문을 몇편 출판했으며, 인공지능 관련 초급 대학 강의를 맡아 가르치기도 했지만, 요즘 생성형 인공지능의 눈부신 성능은 내게도 마법 같다. 위에서 소개한 아서 클라크의 말을 비슷한 형식으로 살짝 비틀어 재밌게 표현한 글귀를 접한 적이 있다. 과학 대중화를 위해 노력하고 있는 ‘과학과 사람들’에서 몇년 전 제작한 커피 컵에서 본, “완벽한 암기는 이해와 구별할 수 없다”라는 재밌는 문장이다. 요즘 인공지능의 엄청난 발전을 보면서 이 재밌는 글귀를 떠올렸다.
대학교 시험 답안지를 채점하면서도 같은 글귀를 떠올리고는 했다. 예를 들어, “뉴턴의 운동법칙으로부터 여러 입자로 이루어진 물리계의 운동량 보존 법칙을 유도하라”는 문제에 한 학생이 중간 과정의 모든 수식을 아무런 이해 없이 달달 외워서 답안지에 옮겨 적을 수도 있다. 완벽한 암기와 이해를 구별할 수 없는 채점자는 학생의 답안에 만점을 줄 수밖에. 전체 유도 과정을 실수 없이 암기해 답안에 수식을 그림처럼 그리는 것은 이해보다 훨씬 더 어려워서, 자세히 살피면 오류를 찾을 수 있을 때가 더 많지만 말이다.
나도 대학 시절 같은 과 친구의 숙제 답안을 그대로 베껴서 과제를 제출한 적이 있다. 물리학과 학부 2학년 때가 바로 온 나라가 들끓던 1987년이었다는 것으로 핑계를 댈 수는 있지만 부끄러운 일이었다. 당시 한 전공 과목의 과제 풀이에 대문자 알파벳 Q가 담긴 수식이 있었다. 한두 번의 복제를 거친 후 한 친구가 Q를 필기체로 적기 시작했고, 이어진 복제의 과정에서 결국 Q가 2로 변신했다. 필기체 Q와 모서리가 부드러운 숫자 2가 닮아 벌어진 일이었다. Q를 2로 베껴 적은 내 과제는 과목 조교에게 부정행위가 발각되어 0점을 받았다. 정보는 복제를 거듭하면서 오류를 담게 된다는 것을 0점 점수로 깨달은, 학창 시절의 부끄럽지만 재밌는 추억이다.
현재 많은 이가 생성형 인공지능을 널리 이용하고 있다. 문답을 이어가다 보면 컴퓨터 화면 너머 스스로 생각하는 존재가 있는 듯한 느낌이 들 때도 있다. 생성형 인공지능은 과연 스스로 생각할까? 질문을 이해하고 논리적인 과정을 거쳐 결과를 얻을까? 널리 이용되고 있는 거대 언어 모형의 작동 얼개 설명을 읽어보면, 인공지능은 엄청난 양의 학습 데이터를 이용해 그럴듯한 문장을 확률적인 과정을 거쳐 이어갈 뿐, 아무런 이해 없이 멋진 출력을 생성한다는 것을 알 수 있다. 따라서 사실과 다른 주장을 그럴듯하게 들려주는 ‘환각(hallucination)’ 현상을 이들 인공지능이 자주 보이는 것도 당연하다. 환각이라고 부르지만 오해하지 말길. 현재의 인공지능은 ‘이해’는 고사하고 ‘환각’의 주체도 될 수 없다.
현재의 인공지능은 스스로의 이해가 불가능하다는 것에는 아마도 많은 이가 동의할 것으로 보이지만, 과연 미래의 인공지능은 어떨까? 아무런 이해 없이도 완벽한 결과를 출력하는 미래 인공지능의 모습을 떠올려 본다. 달달 외워 이해 없이 적은 답안을 보면서도 인간 채점자가 학생의 온전한 이해를 높은 개연성으로 추정하듯, 앞으로 우리 곁에 올 놀라운 인공지능의 시대에는 많은 이가 인공지능이 스스로 이해에 도달했다고 여길 수 있다. 완벽한 암기는 이해와 구별할 수 없지만, 암기와 이해는 엄연히 다른 활동이다. 정보의 무손실 출력으로 우리가 인공지능의 완벽한 암기 여부를 외부자의 입장에서 판단할 수 있는 미래에도, 인공지능이 과연 우리 인간처럼 온전한 이해를 통해 출력 결과에 도달했는지는 알아내기 어렵기 때문이다.
미래에 우리에게 중요해질 질문은 인공지능의 주관적 이해의 여부보다는 옳은 결과를 계속 생성하는 인공지능을 바라보는 인간의 수용성이 될 것으로 짐작해 본다. 땅을 적시기 위해 내리는 비처럼, 지적 존재가 아닌 대상에게서도 불가능한 의도를 볼 수 있는 존재가 바로 인간이다. 우리 인간이 인공지능의 온전한 이해와 내부의 의도를 ‘환각’하는 세상이 오고 있다. 나는 여전히 궁금하다. 내 앞에 서 있는 당신의 이해와 의도를 당연시하는 나의 믿음이 환각이 아니라면, 미래에 내 앞에 서게 될 인공적인 존재의 내부에서 내가 지레짐작하는 이해와 의도는 환각일 뿐일까? 둘의 차이는 과연 무엇일까?
과학소설 작가 아서 클라크는 “고도로 발달한 기술은 마법과 구별할 수 없다”는 말을 남겼다. 과학자로 30여년을 보냈고, 인공지능 관련 물리학 논문을 몇편 출판했으며, 인공지능 관련 초급 대학 강의를 맡아 가르치기도 했지만, 요즘 생성형 인공지능의 눈부신 성능은 내게도 마법 같다. 위에서 소개한 아서 클라크의 말을 비슷한 형식으로 살짝 비틀어 재밌게 표현한 글귀를 접한 적이 있다. 과학 대중화를 위해 노력하고 있는 ‘과학과 사람들’에서 몇년 전 제작한 커피 컵에서 본, “완벽한 암기는 이해와 구별할 수 없다”라는 재밌는 문장이다. 요즘 인공지능의 엄청난 발전을 보면서 이 재밌는 글귀를 떠올렸다.
대학교 시험 답안지를 채점하면서도 같은 글귀를 떠올리고는 했다. 예를 들어, “뉴턴의 운동법칙으로부터 여러 입자로 이루어진 물리계의 운동량 보존 법칙을 유도하라”는 문제에 한 학생이 중간 과정의 모든 수식을 아무런 이해 없이 달달 외워서 답안지에 옮겨 적을 수도 있다. 완벽한 암기와 이해를 구별할 수 없는 채점자는 학생의 답안에 만점을 줄 수밖에. 전체 유도 과정을 실수 없이 암기해 답안에 수식을 그림처럼 그리는 것은 이해보다 훨씬 더 어려워서, 자세히 살피면 오류를 찾을 수 있을 때가 더 많지만 말이다.
나도 대학 시절 같은 과 친구의 숙제 답안을 그대로 베껴서 과제를 제출한 적이 있다. 물리학과 학부 2학년 때가 바로 온 나라가 들끓던 1987년이었다는 것으로 핑계를 댈 수는 있지만 부끄러운 일이었다. 당시 한 전공 과목의 과제 풀이에 대문자 알파벳 Q가 담긴 수식이 있었다. 한두 번의 복제를 거친 후 한 친구가 Q를 필기체로 적기 시작했고, 이어진 복제의 과정에서 결국 Q가 2로 변신했다. 필기체 Q와 모서리가 부드러운 숫자 2가 닮아 벌어진 일이었다. Q를 2로 베껴 적은 내 과제는 과목 조교에게 부정행위가 발각되어 0점을 받았다. 정보는 복제를 거듭하면서 오류를 담게 된다는 것을 0점 점수로 깨달은, 학창 시절의 부끄럽지만 재밌는 추억이다.
현재 많은 이가 생성형 인공지능을 널리 이용하고 있다. 문답을 이어가다 보면 컴퓨터 화면 너머 스스로 생각하는 존재가 있는 듯한 느낌이 들 때도 있다. 생성형 인공지능은 과연 스스로 생각할까? 질문을 이해하고 논리적인 과정을 거쳐 결과를 얻을까? 널리 이용되고 있는 거대 언어 모형의 작동 얼개 설명을 읽어보면, 인공지능은 엄청난 양의 학습 데이터를 이용해 그럴듯한 문장을 확률적인 과정을 거쳐 이어갈 뿐, 아무런 이해 없이 멋진 출력을 생성한다는 것을 알 수 있다. 따라서 사실과 다른 주장을 그럴듯하게 들려주는 ‘환각(hallucination)’ 현상을 이들 인공지능이 자주 보이는 것도 당연하다. 환각이라고 부르지만 오해하지 말길. 현재의 인공지능은 ‘이해’는 고사하고 ‘환각’의 주체도 될 수 없다.
현재의 인공지능은 스스로의 이해가 불가능하다는 것에는 아마도 많은 이가 동의할 것으로 보이지만, 과연 미래의 인공지능은 어떨까? 아무런 이해 없이도 완벽한 결과를 출력하는 미래 인공지능의 모습을 떠올려 본다. 달달 외워 이해 없이 적은 답안을 보면서도 인간 채점자가 학생의 온전한 이해를 높은 개연성으로 추정하듯, 앞으로 우리 곁에 올 놀라운 인공지능의 시대에는 많은 이가 인공지능이 스스로 이해에 도달했다고 여길 수 있다. 완벽한 암기는 이해와 구별할 수 없지만, 암기와 이해는 엄연히 다른 활동이다. 정보의 무손실 출력으로 우리가 인공지능의 완벽한 암기 여부를 외부자의 입장에서 판단할 수 있는 미래에도, 인공지능이 과연 우리 인간처럼 온전한 이해를 통해 출력 결과에 도달했는지는 알아내기 어렵기 때문이다.
미래에 우리에게 중요해질 질문은 인공지능의 주관적 이해의 여부보다는 옳은 결과를 계속 생성하는 인공지능을 바라보는 인간의 수용성이 될 것으로 짐작해 본다. 땅을 적시기 위해 내리는 비처럼, 지적 존재가 아닌 대상에게서도 불가능한 의도를 볼 수 있는 존재가 바로 인간이다. 우리 인간이 인공지능의 온전한 이해와 내부의 의도를 ‘환각’하는 세상이 오고 있다. 나는 여전히 궁금하다. 내 앞에 서 있는 당신의 이해와 의도를 당연시하는 나의 믿음이 환각이 아니라면, 미래에 내 앞에 서게 될 인공적인 존재의 내부에서 내가 지레짐작하는 이해와 의도는 환각일 뿐일까? 둘의 차이는 과연 무엇일까?
김범준 성균관대 물리학과 교수