챗GPT를 비롯한 생성형 인공지능(AI) 붐이 일어난 이래 학계 석학들이 AI위험을 경고하고 나섰으나, 이를 활용하는 기업들은 긍정적인 부분에만 집중했던 것이 현실이다. 하지만 석학들이 경고한 AI의 위험 요소들이 조금씩 실제로 드러나면서, 최근 미국 기술기업들 사이에서는 향후 손실로 이어질 수 있는 AI 관련 위험요소에 대한 언급이 늘어나고 있다.

3일(현지 시각) 블룸버그통신에 따르면 메타나 마이크로소프트(MS)로 대표되는 미국 빅테크들은 미국 증권거래위원회(SEC)에 제출하는 재무보고서에서 소송 위험으로 이어질 수 있는 AI관련 위험성에 대한 경고를 늘리고 있다. 이는 회사들이 위험요소를 알리지 않았다는 사유로 주주로부터 소송을 당할 가능성을 예방하기 위한 것이다.

인공지능(AI)과 오픈AI로고. /연합뉴스

블룸버그는 엔비디아와 MS, 메타 등 총 12개의 주요 빅테크들이 올해 재무신고서에서 AI 관련 경고를 업데이트 했다고 밝혔다. 지금껏 재무신고서에 들어가던 주요 위험요소는 기후변화 관련 위험이나 우크라이나와 러시아의 가자지구 격돌, 실리콘밸리은핸(SVB) 붕괴 여파 등이 주를 이뤘는데, AI가 일으킬 수 있는 위험도 여기에 포함된 것이다.

메타는 올해 미국 대통령선거를 앞두고 이 회사의 AI가 선거기간동안 잘못된 정보를 만드는 데 사용될 수 있으며, 이는 제품에 대한 반발로 이어질 수 있다고 기술했다. 구글의 모회사인 알파벳(GOOG/GOOGL) 은 자사의 AI 도구를 사용하는 것이 “인권, 프라이버시, 고용 또는 기타 사회적 문제에 부정적인 영향을 미칠 수 있다”고 언급했다. 이로 인해 소송이나 재정적 피해로도 이어질 수 있다고 덧붙였다.

MS는 AI의 훈련 및 출력과 관련해서 저작권 청구에 직면할 수 있다고 밝혔다. 엔비디아는 앞서 지난해 초부터 AI의 오용에 대한 우려가 자사 제품에 대한 제한으로 이어질 수 있다고 경고했다. 엔비디아가 스스로 경고한 이 위험은 이미 일부 실현되기도 했는데, 바이든 행정부가 작년 중국에 대한 첨단 AI 칩 수출을 금지한 후 엔비디아는 중국에 대한 수출을 크게 제한받고 있다.

오라클은 자사의 AI 제품이 경쟁사만큼 잘 작동하지 않을 수 있다고 경고했다. 어도비의 경우 광고에 내놓는 회사의 공식 입장과 모순되는 위험요소를 제시하기도 했다.이 회사는 포토샵 같은 프로그램이 크리에이티브 전문가에게 중심이 될 것이라고 주장해 왔으나 위험 경고에서는 AI의 확산으로 인력과 기존 소프트웨어에 대한 수요가 혼란에 빠질 수 있다는 경고를 추가했다.

빅테크들의 이같은 행동은 고객사들에게 AI 활용에 대한 잠재적 위험을 경고하는 의미도 있지만, SEC가 투자자들에게 AI를 과장 홍보하는 기업에 대해 단속하는 분위기를 고려했다는 해석도 있다. 지난 3월 SEC는 AI 활용을 과장해 표현한 3개사를 고발했으며, 증권업계 변호사들은 최근 AI에 대한 기술이 초기 암호화폐를 부풀려 표현하는 것과 유사하다고 설명했다. 게리 겐슬러 SEC 위원장은 “AI는 이세대의 가장 혁신적인 기술이지만, 동시에 금융 붕괴를 일으킬 수 있다”며 AI를 통해 과장된 활용법을 주장하는 회사에 대해 공개적으로 경고한 바 있다.

조선비즈

민서연 기자 [email protected]