【뉴스퀘스트=김형근 기자 】 “인간이 AI를 지배해야 한다. AI가 인간을 지배해서는 결코 안된다!”

인공지능(AI)의 끝없는 질주로 그 위험성이 높아지고 있는 가운데 유엔 회원국들이 AI의 안전한 사용에 관한 국제적인 합의를 시급히 마련해야 한다는 내용의 결의를 만장일치로 채택했다.

21일(이하 현지시간) 로이터 통신 등 외신에 따르면 이날 유엔 총회는 회원국들이 인권과 개인 데이터를 보호하며 AI의 위험을 모니터링하도록 장려하기 위해 AI에 최초의 글로벌 결의안을 만장일치로 채택했다.

미국이 제안하고 중국을 비롯한 122개 국가가 공동 발의

미국이 제안하고 중국을 비롯한 122개 국가가 공동 발의한 구속력 없는 이 결의안은 협상에 3개월이 걸렸다고 이 통신은 전했다.

회원국들은 AI 기술이 빠르게 발전하고 있어 딥페이크와 같은 부작용을 최소화하고 AI가 가져올 긍정적인 혜택에서 저개발국이 배제되지 않도록 하자는 데에 대해 모두 공감했다.

이날 회원국들은 미국 주도로 제출한 AI 관련 결의안을 표결 없이 컨센서스(전원동의)로 채택했다. 컨센서스 통과는 표결을 따로 거치지 않고 의장의 제안에 대해 반대의사를 표명하는 회원국이 없는 경우 합의된 것으로 간주하는 의사결정 방법을 말한다.

이번 결의는 AI 개발과 사용이 빠른 속도로 가속화되고 있다는 점을 인식하고, 안전하고 신뢰할 수 있는 인공지능 시스템에 관한 글로벌 합의를 이루는 게 시급하다는 점을 강조했다.

린다 토마스-그린필드 유엔 주재 미국 대사는 이날 연설을 통해 "오늘 유엔 총회 193개 회원국 모두가 한 목소리로 AI가 우리를 지배하도록 놔두는 대신 우리가 AI를 지배하기로 결정했다”고 말했다.

그녀는 "딥페이크와 같은 AI가 생성한 콘텐츠는 정치적 논쟁의 진실성을 훼손할 가능성이 있고, 알고리즘의 편향은 사회분열과 소수자 차별을 심화시킬 수 있다. 안전한 사용에 관한 국제적인 합의 마련이 필요하다”고 강조했다.

이번 결의안은 AI가 민주적 절차를 방해하거나 사기를 과시하거나, 일자리 손실로 이어질 수 있다는 우려가 팽배한 가운데 전 세계 정부가 AI 규제를 위해 추진한 일련의 이니셔티브 중 가장 최근의 것이다.

이 결의안은 "AI 시스템의 부적절하거나 악의적인 설계, 개발, 배포 및 사용은 인권과” 기본적 자유의 보호, 증진 및 향유를 약화시킬 수 있는 위험을 초래한다”고 밝혔다.

유럽, 이미 구속력 있는 ‘AI규제법’ 채택…”미국 한발 늦어

새 유엔결의는 안전한 AI 시스템을 위해 규제와 거버넌스가 필요하며 이를 발전시키고 지지하기 위해 모든 국가와 지역, 국제기구, 기술 커뮤니티, 시민사회, 언론, 학계, 연구기관, 개인이 나서야 한다는 점을 지적했다.

선진국과 신흥국 간 디지털 격차를 좁히고, AI 관련 논의에서 모든 회원국이 참여해야 한다는 내용도 강조했다.

또한 신흥국도 AI의 혜택을 누릴 수 있는 기술과 능력을 가져야 한다는 점을 목표로 삼았다. 개발이 뒤처진 나라라고 해서 질병 진단이나 홍수예방, 농업 생산성 향상, 직업교육 등 AI가 가져올 수 있는 긍정적인 혜택에서 배제돼선 안 된다는 것이다.

유엔총회 결의는 국제법상 구속력은 없지만, 만장일치로 회원국이 찬성했다는 점에서 향후 국제사회가 AI 관련 규제나 거버넌스 체계를 논의하고 마련하는 데 있어 주춧돌이 될 전망이다.

한편 이에 앞서 13일(현지시간) 유럽의회는 프랑스 스트라스부르에서 열린 본회의에서 인공 지능(AI)를 규제하는 'AI 법(AI Act)' 최종안을 찬성 523표로 가결했다.

반대는 46표, 기권은 49표였다. EU 27개국 장관들이 내달 최종 승인하면 관보 게재를 거쳐 발효된다.

CNN은 “유럽연합(EU)이 세계 최초로 마련한 포괄적 인공지능 규제법은 연말부터 순차 시행될 전망”이라며 “이는 중요하고 파괴적인 기술에 대한 규제에서 다시 한 번 미국을 앞서갔다”고 전했다.