EU, AI 규제법 승인…"의료·선거 등 활용땐 꼭 사람이 감독"
오픈AI의 챗GPT, 구글의 제미나이 등 생성형 인공지능(AI)의 부작용에 대한 우려가 높아지는 가운데 21일(현지시간) 유럽연합(EU)이 AI 규제법의 시행을 최종 확정했다. 선거·사법·금융·의료·교육 등 각 분야에서 AI 기술 허용 범위와 규제 대상 등을 규정한 세계 최초의 법으로, 미국·일본 등 관련 입법을 서두르는 세계 각국에 가이드라인 역할을 할 것이란 관측이 나온다.![벨기에 브뤼셀에 있는 EU위원회 본부. 로이터=연합뉴스](https://news.koreadaily.com/data/photo/2024/05/22/64f6a236-1af8-4097-8543-688119577e21.jpg)
AI 위험도 4단계로 나누고 차등 규제
마티유 미셸 벨기에 디지털화 장관은 성명을 통해 “AI법의 채택은 EU의 중요한 이정표”라며 “이 법을 통해 유럽은 신기술을 다룰 때 신뢰·투명성·책임을 강조하는 동시에 빠르게 변화하는 기술이 더욱 발전하고 유럽의 혁신을 촉진할 수 있도록 보장할 것”이라고 말했다.
이 법은 AI 활용 위험도를 ▶수용 불가능한 위험 ▶고위험 ▶제한된 위험 ▶최소 위험 등 네 단계로 차등 규제한다. 경찰 등 법 집행기관이 실시간 원격 생체인식 시스템을 사용하는 행위는 '수용 불가능한 위험' 등급에 해당해 원칙적으로는 규제 대상이다. 다만 테러나 납치·강간 등 심각하고 긴급한 범죄는 예외적으로 허용된다.
![김경진 기자](https://news.koreadaily.com/data/photo/2024/05/22/ffcdde95-ff55-4af4-b06a-812a2e7ba613.jpg)
AI를 활용한 개인의 특성·행동과 관련된 데이터로 점수를 매기는 '소셜 스코어링'(social scoring), 인터넷이나 폐쇄회로(CC)TV로 얼굴 이미지를 무작위로 수집해 데이터베이스를 구축하는 행위 등도 EU 역내에서 활용이 원천적으로 금지된다.
의료, 교육, 시험 채점, 채용, 선거, 핵심 인프라, 이민, 자율주행에 사용되는 AI는 '고위험 등급'으로 분류됐다. 이 분야에서 AI기술을 활용하려면 반드시 사람이 감독해야 하는 동시에 위험 관리 시스템을 구축해야 한다.
'제한된 위험'과 '최소 위험'의 경우 개발 기업에 ‘투명성 의무’를 부여했다. EU 저작권법을 준수해야 하며, AI 학습에 투입된 데이터에 대한 출처를 명시해야 한다. 아울러 딥페이크 기술 등을 활용해 생성형 AI가 산출해낸 영상·이미지·소리에 대해서는 AI가 만든 것임을 밝혀야 한다. 만약 시스템적으로 위험이 있다고 분류된 범용 AI에 대해선 위험 평가·완화, 사고 보고 등의 의무를 추가로 부여한다.
![구글의 생성형 AI 제미나이 로고. 로이터=연합뉴스](https://news.koreadaily.com/data/photo/2024/05/22/1b967e61-db31-467d-999d-ab70a76b7b67.jpg)
위반시 글로벌 매출 7% 벌금…빅테크 긴장
구글과 메타, MS 등 미국 빅테크 기업은 EU의 AI법 시행에 촉각을 곤두세우고 있다. 이 법이 AI에 대한 세계 최초의 포괄적 규제란 점에서 다른 나라의 AI 규제 모델 구축에 가이드라인으로 작용하는 등 사실상 국제 표준이 될 수 있어서다.
EU의 AI법이 생성형 AI에 강세를 보이는 미국 빅테크 기업를 정조준했다는 분석도 나온다. 실제로 2021년 제안된 이 법은, 이듬해 오픈AI가 챗GPT를 출시하면서 생성형 AI 확산에 대한 부작용과 사회적 우려를 감안해 내용이 대폭 수정됐다.
![오픈AI가 개발한 챗GP의 앱 로고. AFP=연합뉴스 A photo taken on February 26, 2024 shows the logo of the ChatGPT application developed by US artificial intelligence research organization OpenAI on a laptop screen (R) and the the logo of the Artificial Intelligence chat application on a smartphone screen in Frankfurt am Main, western Germany. (Photo by Kirill KUDRYAVTSEV / AFP) 〈저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지〉](https://news.koreadaily.com/data/photo/2024/05/22/9c078b42-5057-402e-96ad-7c9022ecd4d2.jpg)
법률회사 크립스의 매튜 홀먼 파트너 변호사는 미국 CNBC 방송과의 인터뷰에서 “대중을 상대로 하는 생성형 AI 시스템에 많은 자금을 투입한 미국의 빅테크 기업 입장에선 엄청나게 부담스러울 것”이라고 지적했다. 법률회사 콜리의 패트릭 반 에케 변호사는 “EU AI법의 영향력은 결국 유럽의 블록을 넘어설 것”이라며 “개인정보 보호에 대해 국제 표준이 된 EU의 개인정보보호법(GDPR)과 마찬가지로, AI 규제에 대한 국제적인 청사진 역할을 하게 될 가능성이 크다”고 내다봤다.
박형수(hspark97@joongang.co.kr)
with the Korea JoongAng Daily
To write comments, please log in to one of the accounts.
Standards Board Policy (0/250자)