영국 고등법원과 항소법원이 있는 왕립사법재판소
[AP 연합뉴스 자료사진]

(런던=연합뉴스) 김지연 특파원 = 영국 법원이 생성형 인공지능(AI)을 소송에 활용하는 행태에 경고장을 날렸다.

잉글랜드·웨일스 고등법원은 6일(현지시간) AI로 생성된 '가짜 자료'를 변론에 활용하는 변호인은 법정모독죄로 기소될 수 있다고 이례적으로 경고했다고 로이터 통신과 미국 뉴욕타임스(NYT)가 보도했다.

이 법원은 최근 다룬 여러 건의 소송에 제출된 서면에 '가짜' 자료가 포함된 것으로 파악하고 이같이 경고했다.

그중 하나는 한 남성이 은행 2곳에 대해 자금조달 계약을 위반했다며 낸 소송이다.

원고 측이 제출한 서류에는 판례 등 다른 법률 문건 45건이 인용돼 있었는데, 그중 18건은 존재하지도 않는 사건이었다. 사건은 실재하나 인용된 문구를 실제 판결문에선 찾아볼 수 없거나 관련성이 없는 경우도 있었다.

문제가 불거지자 원고는 AI 도구와 법률 검색엔진, 온라인 출처를 사용해 인용문을 생성했다고 인정했으며, 변호인은 의뢰인이 조사해온 정보를 별도로 검증하지 않았다고 말했다.

또 다른 사건은 한 남성이 주택에서 퇴거 조처된 이후 지방 의회에 긴급 숙소를 요청했다가 거절당하자 지방 의회를 상대로 낸 소송이다.

원고 측 변호인은 소송 사례 5건을 담은 서면을 법원에 제출했는데, 모두 실재하지 않는 사건임을 피고 측 변호인이 알아냈다. 이에 판사는 AI를 사용했기 때문이라고 의심했다.

원고 측 변호인은 AI 도구 사용을 부인했지만, 이와 별개의 또 다른 소송에서는 허위 자료를 제출했다고 인정했다.

이 별개의 소송에 제출된 자료에도 존재하지 않는 가짜 사례들이 인용돼 있었다. 변호인은 자신이 구글이나 사파리로 검색했는데 검색 결과에 AI 생성 요약본이 들어 있었을 수도 있다는 식으로 주장했다.

고등법원의 빅토리아 샤프 판사는 판결문에서 "챗GPT와 같은 (AI 도구는) 신뢰할 수 있는 법률 연구를 수행할 수 없다"며 "겉으론 그럴듯하나 완전히 잘못된 답변이 나올 수 있고 사실이 아닌데도 확신에 찬 주장을 만들어낼 수 있으며 존재하지 않는 출처를 인용할 수도 있다"고 지적했다.

이어 "AI가 잘못 사용되면 사법 행정과 사법 체계에 대한 대중 신뢰에 심각한 영향을 줄 수 있다"며 "가장 심각한 경우 사법행정을 방해하려는 의도로 허위 자료를 제출하는 것은 사법 절차를 왜곡하는 형사 범죄에 해당한다"고 경고했다.

샤프 판사는 당국이 법조계의 AI 사용에 대한 지침을 발표했으나 이는 충분하지 않은 수준이라고도 지적했다.

[email protected]

연합뉴스

김지연([email protected])