"AI법 없어 데이터 활용 포기"…속타는 기업, 최대의 적은 국회 [표류하는 AI 헌법]

#1.국내 한 거대언어모델(LLM) 개발사는 사내에 쌓이고 있는 타깃 광고(고객 맞춤형 광고) 데이터나 사용자 로그(활동 기록) 데이터를 AI 모델에 학습시키려다 포기했다. 어느 수준까지 데이터 활용이 가능한지 규정한 법이 없어서다. 글로벌 빅테크들이 인공지능(AI) 성능 개선을 위해 사활을 걸고 외부 데이터 확보 전쟁을 벌이는 가운데 자기 곳간에 쌓이고 있는 데이터마저 활용 못하고 있는 셈이다. 회사 관계자는 “향후 법이 생긴 뒤 문제가 되는 데이터를 AI모델에서 골라내려면 더 많은 시간과 노력이 필요하다”며 “차라리 지금은 손 놓고 있는 게 낫다”고 말했다.

#2. 국내 한 생성 AI 스타트업은 올해 예상치 못한 비용 증가에 난감한 상황이다. 정부 지원 그래픽처리장치(GPU) 서버 용량이 절반으로 줄어서다. 정부 연구개발(R&D) 예산이 2022년 325억원에서 올해 130억원으로 크게 줄어든 여파다. 이 회사 대표는 “예상치 못한 서버 비용만 월 1000만원씩 더 들어가게 됐다”며 “AI 인프라 관련 정부 정책 지원 사업 규모가 커지고 예측 가능성이 높아지려면 AI 관련 법제화가 필요하다”고 말했다.

국내 AI기업들이 AI규제 ‘시계제로’의 어려움을 호소하고 있다. 최소한 무엇을 할 수 있고, 무엇을 할 수 없는지를 담은 가이드라인이 나와야 글로벌 빅테크를 따라잡기 위한 혁신적 시도를 할 수 있는데 국회가 AI 산업 ‘헌법’ 역할을 할 법안 처리에 손을 놓고 있어서다.

━

장기표류 AI기본법

이른바 ‘AI기본법’으로 불리는 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 법률’ 제정안은 현재 여야 갈등 여파로 폐기될 위험에 처했다. 2021년 7월 이후 여야 의원들이 발의한 7건의 AI 관련 법안이 병합된 이 법안은 지난해 2월 국회 과학기술정보방송통신위원회(과방위) 법안 소위를 통과했다. 하지만 그 뒤로 1년 넘게 감감무소식이다. 여야 의원 모두 입법에 공감하는 비쟁점 법안이지만, 방송법 등을 둘러싼 여야 갈등에 뒷전으로 밀렸다. 규제 자체가 없는 ‘불확실성’이 산업 성장을 가로막고 있다는 평가가 나오는 이유다.

정부와 AI 업계는 이번 국회 통과를 바라고 있지만 전망은 밝지 않다. 지난 달 22대 총선에서 여당 소속 과방위원 7명 모두가 불출마 또는 낙선하면서 과방위 전체회의 개최가 불투명한 상황이어서다. 회기 안에 처리하지 못하면 법안은 자동 폐기된다. 관련 사정에 정통한 법조계 한 관계자는 “여야는 물론 과기정통부 등 정부 부처 의견이 모두 취합된 수정안까지 만들어져 있다”며 “양당 간사만 합의하면 21대 회기 안에도 곧바로 통과될 수 있는 법안”이라고 말했다.

━

"치고 나갈 기회인데"…속만 끓이는 기업들

현재 국회에서 계류 중인 AI기본법안은 산업 진흥 및 육성에 무게 중심을 두고 있다. AI를 안전하게 개발하고 사용해야 한다는 조항도 들어가 있다. 하지만, 이를 어겼을 때 처벌하는 조항은 없어 자율규제적 성격이 강하다. 전문가들은 이 법안 14조 ‘인공지능 도입‧활용 지원’을 주목하고 있다. AI 기술 개발 기업 뿐 아니라 AI를 기존 산업에 도입하려는 기업을 지원하는 내용을 담고 있어서다. 전체적인 AI 시장을 키우는 효과가 클 것이라는 판단이다. 김형준 한국지능정보사회진흥원(NIA) 지능화법제도센터장은 “향후 중소기업 등이 AI를 도입하려고 할 때 과기정통부가 이들을 지원할 수 있는 법적 근거가 될 것”이라고 말했다.

그러나 법안이 장기 표류하면서 AI기업들은 국회만 바라보고 있다. 한 AI 스타트업 대표는 “법이 나온 뒤 지금까지 하던 걸 새로 엎어야 할 상황을 우려해 모두 소극적으로 움직이고 있다”며 “잘못하다간 소송 가능성도 있기 때문에 적극적으로 고객사에 AI 도입을 제안하기도 어렵다”고 말했다. 배경훈 초거대 AI추진협의회장(LG AI연구원장)은 “AI기술이 급속도로 발전·확산하면서 한국뿐 아니라 대부분 국가도 불확실성에 따른 혼란에 빠져 있다”며 “AI기본법을 빠르게 수립한 뒤 보완하고 발전해 나가는 것이 향후 국가경쟁력에 큰 차이를 만들어 낼 것”이라고 말했다.

━

'우선허용·사후규제’ 원칙 빠진 수정안도 논란

산업 진흥에 무게를 뒀던 법안 성격이 수정안에서 후퇴한 점도 문제다. 중앙일보가 입수한 수정안에는 원안에 있던 ‘우선허용·사후규제’ 원칙 조항이 삭제됐다. ‘국민 생명과 안전에 위해되는 고위험 영역 AI를 제외한 모든 영역에서 자유롭게 AI와 관련한 연구나 서비스 출시를 허용해야 한다’는 내용이었다. 원안에 이 원칙을 담은 건 AI 기술 발전을 법과 제도가 따라가지 못해 경쟁력이 뒤처질 수 있다는 IT업계 의견이 반영됐기 때문이다. 하지만 시민단체와 국가인권위원회 등에서 AI가 불러올 위험을 통제할 수단이 없다며 반발했다. AI 경쟁력 확보를 위해 해당 조항을 고수하던 과기정통부도 조속한 입법을 위해 입장을 바꿨다.

이를 두고 AI업계 일각에선 진흥법이 자칫 규제로 돌변하는 것 아니냐는 우려도 나온다. 하정우 네이버 퓨처AI센터장은 “법안의 핵심 철학이 빠지게 되는 것”이라며 “‘우선허용·사후규제’라는 선언적 방향이 사라지면 법 통과 이후 정부 시행령 등에서 언제든 규제로 돌변할 수 있다”고 말했다. 임정근 BHSN 대표는 “모든 걸 풀자는 게 아니라 큰 위험이 아니면 되도록 시도해보자는 취지”라며 “AI에 대한 기술 발전과 적용 방식, 이에 따른 문제점이 명확히 파악되지 않은 상태에서 막연히 터미네이터에서 인류를 멸망시킨 AI 스카이넷을 상상하며 이도 저도 안 된다는 것 같아 우려스럽다”고 말했다.

다만 해당 조항이 선언적 의미라 큰 의미를 둘 필요 없다는 반론도 있다. 최경진 가천대 법학과 교수는 “혁신을 해도 안전성을 확보할 수 있는 테두리가 필요하다”고 말했다. 엄열 과기정통부 인공지능기반정책관은 “AI 산업 진흥 측면만 지나치게 강조됐다는 지적이 있어 신뢰성 있는 AI 측면을 균형 있게 반영하기 위해 삭제한 것"이라고 설명했다.

수정안에는 또 원안에 없던 생성 AI 표시 의무가 추가됐다. 이는 생성 AI를 이용해 제작된 제품과 서비스에 워터마크 등으로 해당 사실을 표기해야 하는 의무다. 원안에는 과기정통부 장관이 고위험 AI에 대한 신뢰성 확보 조치를 구체화하고 이를 AI위원회의 심의·의결을 거쳐 고시하도록 했는데 이 부분도 삭제됐다.

강광우.권유진.김남영([e-mail])