지난해 5월 칸 국제영화제에 참석한 스칼릿 조핸슨. AP 연합뉴스

2024년 5월 세계는 인공지능의 위험성을 통제하려는 여러 움직임을 보였다. 인공지능의 위험성에 대한 국가 수준의 대응들이 공표되었지만 실효성은 의문이다. 그보다는 한 배우의 발언이 일단은 더 강력했다.

올해 서울에서 열린 인공지능(AI) 정상회의가 지난 22일 폐막했다. 지난해 가을 영국 블레츨리에서 열린 첫번째 정상회의에 이은 두번째였다. 올 하반기에 파리에서 열기로 한 후속 정상회의가 내년 봄으로 연기되고 몇몇 주요 인사들은 서울 정상회의에 불참하면서 ‘맥 빠진 징검다리 회의’가 될 거라는 우려도 있었다. 이번 회의에 참여한 정상들의 발언이 맹목적 육성과 해로운 규제라는 양극단에 대한 우려를 없애기에는 부족했지만, 인공지능 기업들은 다음 파리 정상회의 때까지 각자 자율적으로 인공지능 안전 관리 체계를 마련해서 발표하겠다고 공개 약속하고 서명했다. 기준은 어렴풋하고 강제력도 없긴 하지만 첫 약속이라는 점만큼은 성과라고 할 수 있다. 사실 명료한 기준을 정하기에는 인공지능의 능력과 한계가 충분히 규명되지 않은 실정이기도 하다. 각 기업이 고안한 기준들이 공개되면 파리 정상회의에선 실질적인 논의가 시작되는 계기가 될 수도 있다.

또 유럽연합(EU)은 지난 21일(이하 현지시각) 인권을 위협하는 인공지능 기술을 금지하는 규제 법안을 승인했다. 이에 따라 어린이에게 위험한 행동을 조장하는 인지 조작 시스템과 사회·경제적 지위에 따라 사람을 분류하는 사회 평가 시스템, 실시간 생체 정보 인식 시스템 인공지능이 올해 안에 금지된다. 비유럽 국가 외주화 등 기업들은 우회로를 찾아내겠지만 그래도 규제 선례로서 의미는 있다.


인공지능 개발 방향에 더 큰 영향을 미칠 것은 배우 스칼릿 조핸슨의 언론 인터뷰였다. 지난 20일 조핸슨은 지피티(GPT)-4오(o)에 사용된 목소리가 자신의 것과 비슷하다며 오픈에이아이를 비판했다. 그는 오픈에이아이의 수장 샘 올트먼이 자신의 목소리를 사용하고자 접촉했고, 거절했더니 자신의 목소리와 똑 닮은 목소리를 동의 없이 사용했다고 했다. 이는 몇몇 언론의 풀이와 달리 저작권 문제가 아닌 퍼블리시티권(초상·성명 등 사람의 정체성을 상업적으로 이용하여 경제적 이익을 얻을 수 있는 권리) 문제다. 조핸슨의 거주지이자 오픈에이아이 소재지인 캘리포니아주는 퍼블리시티권을 강력하게 보호한다. 연예산업의 본거지이니 자연스러운 현상이다.

올트먼은 지피티-4오를 홍보할 때, 조핸슨이 목소리 연기를 맡은 영화 ‘그녀’(Her)를 거듭 거론했다. 지피티-4오가 ‘그녀’에 등장한 인공지능 인터페이스를 실현시킨 멋진 기술이라고 자랑한 것이다. 그러므로 조핸슨의 목소리와 비슷한 음성을 사용한 것만으로도 퍼블리시티권 침해가 발생한다. 다른 성우의 목소리를 계약해서 사용했다고 변명해도 소용없다. 만일 조핸슨과 비슷하도록 목소리 연기 방향을 정했다면 형사사건으로 비화할 가능성도 있다고 한다. 법정 공방이 벌어지면 오픈에이아이의 인공지능 모델 훈련 방식이나 훈련 데이터세트를 상당 부분 공개해야 하는 사태가 벌어질 수도 있다. 이렇게 되면 큰 타격을 입게 되는 오픈에이아이로서는 거액을 들여 법정 밖 화해를 시도할 가능성이 높다는 전망도 나온다.

올트먼의 행태는 그동안 말과 행동의 일관성이 없다는 인상을 주기에 충분했다. 오픈에이아이는 안전한 ‘일반인공지능’(AGI·Artificial General Intelligence)을 만들겠다고 출범했지만, 일단 서비스를 출시한 다음 안전성 문제를 손보는 일이 잦았다. 구글의 인공지능 독점을 우려해서 출범한 회사가 이제는 구글보다 더 비밀주의 장벽을 친다. 저작물 공정 사용 원칙에 따라 데이터를 수집했다고 주장했지만, 이제는 에이피(AP) 통신이나 파이낸셜타임스(FT)에 저작권료를 지불한다. 뉴스 매체들이 집단소송을 고려했지만 반독점법 위반으로 걸릴 가능성 때문에 개별 협상을 했고, 협상액을 공개하지 않는 조건으로 계약했다고 한다. 뉴욕타임스는 협상 대신 소송을 선택했다.

지난 21일(현지시각) 미국 워싱턴주 마이크로소프트(MS) 본사에서 연설하고 있는 샘 올트먼. AFP 연합뉴스

조핸슨 인터뷰보다 6일 앞선 지난 14일엔 오픈에이아이의 수석과학자 일리야 수츠케버가 회사를 떠났다. 그는 지난해 11월 올트먼을 몰아내려 했다가 실패한 인물이다. 수츠케버는 회사를 떠나면서 “오픈에이아이가 올트먼 등의 리더십 아래 안전하고 유익한 일반인공지능을 구축할 것으로 확신한다”고 했다. 하지만 그와 함께 사임한 슈퍼정렬 책임자 얀 라이케는 “지난 몇년 동안, 안전 문화와 절차는 화려한 제품들의 뒷전으로 밀려났다. 회사의 핵심 우선순위에 대해 경영진과 오랫동안 의견이 달랐으며, 결국 우리는 한계점에 도달하게 됐다”고 밝혔다. 경제전문지 ‘포천’은 지난해 7월 올트먼이 슈퍼정렬팀 결성을 발표하면서 이 작업에 회사 컴퓨팅 파워의 20%를 할당할 것이라고 말했지만 약속은 지켜지지 않았다고 보도했다. 인공지능 기술에서 ‘정렬’이란, 인간이 의도한 목표나 선호 또는 윤리적 원칙에 맞게 인공지능이 행동하도록 조정하는 작업이다.

작은 규모의 인공지능을 정렬하는 작업은 일상적으로 진행되고 있다. 하지만 인간보다 뛰어날 것이라는 일반인공지능을 과연 인간이 ‘정렬’할 수 있을까? 오픈에이아이 슈퍼정렬팀의 목표는 그 문제를 해결하는 것이었다. 구상은 단순하다. 작은 규모의 인공지능을 연구자들이 수작업으로 정렬하고, 그 작은 인공지능으로 큰 규모의 인공지능을, 큰 규모의 인공지능으로는 더 큰 규모의 인공지능을 정렬하는 방식이다. 이론적 분석보다는 경험적 시도인데, 단계를 거듭하면서 어느 정도의 정렬 정도를 유지할 수 있었는지는 알려지지 않았다. 게다가 개인·집단별로 다양한 목표와 선호를 지니는데 이를 어떻게 고려했는지도 알려지지 않았다. 그래도 수츠케버와 라이케는 자신들이 공언한 바를 나름 추구한 흔적은 남겼다.

오픈에이아이가 추구하는 일반인공지능이 혁신적이고 중요한 기술이라고 올트먼은 주장한다. 하지만 이를 이끄는 리더는 말과 행동이 그때그때 달라진다. 조직을 신뢰할 수 없고 우려는 더 커진다. 조핸슨의 인터뷰 이후 올트먼의 무절제한 행동이 외부 권력의 개입을 자초해서 투자자의 이익을 해칠 수 있다는 우려까지 나왔다.

인공지능 서울 정상회의에 제출된 연구보고서는 인간을 뛰어넘을 것이라는 아우라를 두른 ‘일반인공지능’ 대신, ‘다목적 인공지능’(General-purpose AI)이라는 표현을 더 많이 사용했다. 인공지능이 온전히 자율적으로 활동하는 것이 아니라 누군가의 목적을 위해 움직인다는 점을 상기시키는 좋은 표현이다. 사람과 기술은 좋든 싫든 함께 변화한다. 기술의 한 버전만을 필연적이라고 밀어붙이는 일은 기술적 다양성과 사람의 삶을 함께 짓밟는 일인 셈이다.

이관수│과학저술가 서울대학교 물리학과를 졸업하고 과학사 및 과학철학협동과정에서 박사 학위를 취득했다. 가톨릭대학교 교양교육원 초빙교수를 거쳐 현재 동국대학교 다르마칼리지에 재직 중이다.

한겨레

한겨레 [email protected]