로마에서 휴가를 보내기 위해 아파트를 예약하려는 사람이 있다고 칩시다. 그런데 숙박 플랫폼이 소셜미디어 활동을 분석하는 인공지능(AI) 알고리즘을 사용하고 있다면? SNS 게시물을 바탕으로 예약자의 평소 휴가 성향을 분석하겠죠. 만약 예약자가 '파티를 자주 하는 사람'이라고 알고리즘이 판단한다면, 결국 플랫폼은 그를 '신뢰할 수 없는 사용자'로 간주해 예약을 거절할 수 있습니다. 대신 '더 신뢰할 수 있는' 다른 사람에게 아파트를 제공할 수 있습니다. 이런 판단을 '사회적 신용 점수 시스템(소셜 스코어링)'이라 합니다. 유럽소비자센터가 AI의 위험성과 관련해 예시로 든 사례입니다. 유럽연합 EU가 최근 이러한 '사회적 신용 점수 시스템' 등을 금지하는 것을 골자로 하는 'AI 위험 규제법'을 시행했습니다.
■ 펄펄 나는 미·중 틈에서 유럽은 '규제' 초점
프랑스 일간 리베라시옹 등 현지 언론들은 '사회적 신용 점수 시스템'이 아직 유럽에서 널리 사용되지는 않지만, 이번에 시행된 AI 법안이 향후 이러한 위험을 방지하는, 안전장치 역할을 하게 될 것이라고 보도합니다. 2021년부터 논의돼 지난해 최종적으로 채택된 이 법안은 이달 2일부터 단계적인 시행에 들어가, 향후 2년 동안 점진적으로 적용될 예정입니다. 중국의 인공지능 '딥시크'의 출시로 전 세계 테크 업계가 충격에 빠진 가운데, 아이러니하게도 유럽의 인공지능 규제가 시작된 것입니다.
규제에 초점을 맞춘 만큼 이 법안은 급속도로 발전하는 AI 기술을 통제하기 위해 마련됐습니다. 법안은 AI 시스템을 최소 위험· 제한적 위험·고위험·용납 불가의 네 가지 위험 수준으로 분류합니다. 이달 2일부터 시행된 조항에는 가장 높은 위험 수준인 '용납 불가한 위험'을 가진 AI 기술에 대한 금지 조치가 포함됐습니다. 앞서 언급한 '사회적 신용 점수 시스템'을 비롯해 '얼굴 인식 조작 기술', '범죄 가능성을 예측해 감시하는 기술', 사회적 약자를 대상으로 한 'AI 기반 표적 광고' 등이 금지됩니다. EU 집행위원회는 "AI 법안이 유럽 시민들이 인공지능 기술을 신뢰할 수 있도록 보장한다"고 강조합니다.
유럽 내 기업들은 새로운 규제에 맞춰 시스템을 정비해야 합니다. AI 시스템이 안전하고 윤리적으로 활용될 수 있도록 가드레일 역할을 하는 'AI 거버넌스' 강화, 또 AI 시스템을 수행하는 임직원 교육과 AI 공급업체에 대한 평가 등 여러 조치가 기업들에 권장됩니다. 특히 오는 8월 2일부터는 법안이 규정하고 있는 다음 위험 수준인 '고위험' AI 시스템에 대한 규제가 적용될 예정인데, 챗GPT와 같은 대형 언어 모델이 여기에 해당합니다. 이 시점부터는 기업들이 규정을 위반하면, 최대 4천만 유로, 우리 돈 570억 원 또는 글로벌 연 매출의 7%에 해당하는 벌금이 부과될 수 있습니다.
■ 유럽, 정부 주도 AI 투자…효과는 '미지수'
2023년 골드만삭스는 AI가 향후 10년 동안 연평균 1.5%의 생산성 향상을 가져오고, 세계 GDP를 7% 증가시킬 것이라고 전망했습니다. 이러다보니, 프랑스과 영국 등 유럽 국가들은 정부 주도로 AI 개발에 뛰어들고 있습니다. 영국은 올해 초 키어 스타머 총리가 AI 챔피언 기업을 키우겠다며 투자 계획을 발표했고, 프랑스 역시 마크롱 프랑스 대통령이 앞장서 AI 산업 육성을 강조하고 있습니다. 오는 10일과 11일에는 주요국 정상과 AI 업계 거물들이 참여하는 'AI 정상 회의'가 프랑스 파리에서 열립니다.
프랑스 인공지능 위원회는 AI가 2034년까지 GDP를 연 0.8~1.3%포인트 증가시킬 수 있어 자국의 현재 성장률을 거의 두 배로 끌어 올릴 수 있다고 보고서에서 밝혔습니다. 정체 상태인 프랑스 경제를 벗어나게 할 수 있을 거라는 장밋빛 전망이지만, 실제 효과는 미지수입니다.
당장 AI 도입을 둘러싸고 프랑스 기업들의 태도는 신중합니다. 2024년 기준, 프랑스에서 AI 기술에 투자한 기업(약 50%)은 절반에도 못 미치며, 이는 세계 평균인 72%보다 낮습니다. 특히 AI 도입은 대기업과 테크 기업이 주도하고 있는데, 정작 프랑스 경제의 60%를 차지하는 중소기업과 소규모 기업의 AI 도입 비율은 훨씬 낮습니다. 2024년 말 기준, 생성형 AI를 도입한 프랑스 중소기업은 전체의 31%에 불과했습니다.
프랑스 싱크탱크 '테라노바'는 최근 발표한 보고서에서 AI 확산 속도에 대해 신중한 입장을 보이기도 했습니다. AI의 경제적 영향이 예상보다 적을 수 있으며, 생산성 향상 효과도 연 0.8% 정도로 제한적일 가능성이 있다고 분석합니다. 이는 과거 2차 산업혁명 당시, 전기 도입으로 인한 1.3%의 성장률과 비교하면 낮은 수치입니다.
■ "모든 디지털 장치의 출발점과 결승점은 인간"
AI와 빅테크 기술에 대한 규제 풀기에 나선 미국과 달리, 유럽은 AI의 윤리성 강화 측면에서 규제가 필요하다는 점을 강조하고 있음에도, 유럽 내에서는 볼멘소리가 나옵니다. 이 법안이 유럽 시민들을 온전히 보호할 수 있는 건 아니라는 지적입니다. 프랑스 내 디지털 권리 옹호 단체인 라 콰드라튀르 뒤 네트(La Quadrature du Net)는 "EU의 AI 법안이 기업들의 자율 규제에 의존하며, 수많은 예외 조항이 포함돼 있어, AI 확산에 따른 사회, 정치, 환경적 피해를 막기에 역부족"이라고 경고하고 있습니다.
'라 콰드라튀르 뒤 네트'를 포함해 '인권연맹'과 '사이버 피해를 본 여성들 모임' 등 20개 이상 단체로 구성된 연합체는 프랑스 일간 '르 몽드'에 쓴 기고문에서, "인공지능이 생태 재앙을 가속화하고, 불의를 강화하며 권력 집중을 악화시킨다"라고도 주장했습니다. 우선 농업에서 예술, 기타 여러 전문 분야에 이르기까지, AI가 경영 통제를 강화하면서 일자리를 빼앗고 있다는 점에 이들은 주목하고 있습니다. 또 건강이나 교육 분야와같이 중요한 사회적 기능을 AI에 위임하는 것이 늘어날 경우, 예측할 수 없는 중대한 인류학적 위험이 초래될 수 있다고 주장합니다. 아울러 AI 기술은 그래픽 칩과 데이터 센터 등이 뒷받침돼야 하고, 이를 위해선 방대한 양의 물과 에너지 자원이 필요한 만큼, 환경적 측면에서도 문제가 있다는 게 이들의 지적입니다.
이 단체는 유럽이 미국, 중국과의 경쟁에서 뒤처지지 않기 위해 AI 산업에 공공 자금을 투입하는 데 대해서도 회의적인 입장입니다. AI 산업의 모든 분야에서 이미 늦어버린 유럽이 만회하기는 어려운 상황이고 결국 경쟁에서 패배할 가능성이 크기 때문에 이러한 정책이 터무니없다는 것입니다. 그러면서 AI 확산이 피할 수 없다는 인식 속에, 이를 정당화하는 많은 정책에 맞서 AI 기술에 대한 민주적 통제가 필요하다고 이 단체는 주장합니다. 모든 디지털 장치의 출발점인 인간이 결승점으로 남아 있어야 한다는 것은 이 단체가 가장 강조하는 점입니다. 가뜩이나 뒤처진 유럽은 윤리적이고 인간적인 AI 개발이라는 어려운 숙제 앞에 놓여 있습니다.
■ 제보하기
▷ 전화 : 02-781-1234, 4444
▷ 이메일 : [email protected]
▷ 카카오톡 : 'KBS제보' 검색, 채널 추가
▷ 네이버, 유튜브에서 KBS뉴스를 구독해주세요!
