【뉴스퀘스트=김형근 기자】 13일(현지시간) 유럽의회가 프랑스 스트라스부르에서 열린 본회의에서 인공 지능(AI)를 규제하는 'AI 법(AI Act)' 최종안을 찬성 523표로 가결했다고 CNN등을 비롯한 외신들이 보도했다.

반대는 46표, 기권은 49표였다. EU 27개국 장관들이 내달 최종 승인하면 관보 게재를 거쳐 발효된다.

CNN은 유럽연합(EU)이 세계 최초로 마련한 포괄적 인공지능 규제법은 연말부터 순차 시행될 전망이라며 “이는 중요하고 파괴적인 기술에 대한 규제에서 다시 한 번 미국을 앞서갔다”고 전했다.

“중요하고 파괴적인 기술 규제에서 유럽이 한발 앞서 나가”

AI 규제 관련 최초의 이 법안은 기업과 조직의 의료적 행위 결정에서부터 치안 유지에 이르기까지 모든 분야에서 AI를 사용하는 방식을 재편할 것으로 보인다.

이 법은 AI기술의 "용납할 수 없는" 일부 사용에 대해 전면적인 금지를 부과하는 동시에 "고위험"으로 간주되는 다른 응용 프로그램에 대해서는 엄격한 가드레일을 제정한다.

예를 들어, EU AI법은 AI로 구동되는 개인의 특성과 행동에 따른 사회적인 채점 시스템(social scoring system)과 개인의 인종, 정치적 성향, 또는 성적 취향을 추측하는 데 사용되는 모든 생체 인식 기반 도구를 금지한다.

이 AI법은 학교와 직장에서 사람들의 감정을 해석하기 위해 AI를 사용하는 것은 물론, 개인의 미래 범죄 가능성을 예측하기 위한 일부 유형의 자동화된 프로파일링을 금지한다.

또한 특히 교육, 고용 및 정부 서비스 접근을 위한 AI의 "고위험" 사용에 대한 별도의 범주를 설명하고 이에 대해 별도의 투명성 및 기타 의무를 부과하고 있다.

강력하고 복잡하며 널리 사용되는 AI 모델을 생산하는 오픈AI와 같은 회사에도 법에 따라 새로운 공개적인 요구 사항을 제안할 방침이다.

개인의 특성이나 행동을 기반을 점수를 매기는 ‘소셜 스코어링’ 금지

또한 허위 정보와 선거 개입으로 이어질 수 있는 조작된 미디어에 대한 우려를 겨냥하여 모든 생성 AI는 딥페이크에 명확하게 라벨을 지정해야 한다. AI로 만든 조작 콘텐츠라는 점을 정확히 기하도록 했다.

한편 CNN에 따르면 일부 금지 조항은 발효 뒤 6개월부터 적용되며 이후 단계적으로 도입돼 2026년 이후 전면 시행된다.

최종안에 따르면 EU는 AI 활용 분야를 총 네 단계의 위험 등급으로 나눠 차등 규제할 계획이다.

고위험 등급으로 분류되는 의료, 교육을 비롯한 공공 서비스나 선거, 핵심 인프라, 자율주행 등에서 AI 기술 사용 시 사람이 반드시 감독하도록 하고 위험관리시스템을 구축해야 한다.

범용 AI(AGI·사람과 유사한 수준 또는 그 이상의 지능을 갖춘 AI)를 개발하는 기업에 대해서는 '투명성 의무'를 부여하기로 했다.

관련 조항은 2021년 발의된 초안에는 없었지만 이듬해 챗GPT 등 생성형 AI 등장으로 AI 오남용에 대한 우려가 확산하면서 입법 과정에서 추가됐다.

오픈AI의 챗GPT의 운신의 폭 크게 제한받을 것

범용 AI 업체들은 EU 저작권법을 반드시 준수해야 하며 AI의 학습과정에 사용한 콘텐츠를 명시해야 한다.

또 광범위한 사이버 공격, '유해한 선입견' 전파 등 EU가 시스템적 위험이라고 규정한 사고 발생을 방지하기 위한 조처를 해야 한다.

AI를 활용한 실시간 원격 생체인식 식별 시스템 사용도 사실상 금지된다.

강간·테러와 같은 중대 범죄 용의자 수색을 비롯해 예외적인 경우에 일부 허용되지만 이 경우에도 법원의 사전 허가를 받도록 하는 등 가용 범위를 크게 제한했다.

법 위반 시 경중에 따라 전 세계 매출의 1.5%에서 최대 7%에 해당하는 과징금이 부과될 수 있다.

약 2년 후에 전면적으로 발효될 이 법안은 오픈AI의 챗GPT와 같은 도구의 폭발적인 인기에 대해 EU 정책 입안자들이 신속히 대응에 나섰다는 것을 의미한다.

CNN은 첫 AI규제법은 지난해 척 슈머 상원 원내대표가 AI 문제를 최우선 의제로 삼았음에도 불구하고 AI에 대한 연방 법안에 대해 아직 의미 있는 진전을 이루지 못한 미국과 뚜렷한 대조를 이룬다.