[J네트워크] 유엔에 등장한 AI

유빙으로 뒤덮인 북태평양 베링해의 깊은 바다. 긴장된 분위기 속에 러시아 잠수함이 어둠을 가르며 등장한다. 시작부터 손에 땀이 난다. 요즘 전 세계 흥행 중인 톰 크루즈 주연의 ‘미션 임파서블: 데드 레코닝 Part One’의 첫 장면이다.
 
입이 근질근질하지만 ‘스포(spoiler)’ 만행은 접어두겠다. 하지만 이번 시리즈의 빌런(villain)에 대해서는 한마디 안 할 수가 없다. 우선 그 무시무시한 악당이 인간이 아니기 때문이다.  
 
전편에 등장하는 세계 지배를 꿈꾸는 테러리스트, 혹은 핵을 터뜨려 새 세상을 열겠다는 사악한 ‘천재’가 아닌 인공지능이라니…. 전지전능하고 민첩할 것 같은 ‘엔티티(The Entity)’라는 이름의 AI를 어떻게 이겨낸단 말인가.
 
AI가 악역으로 나오는 영화는 시대에 따라 조금씩 달랐을 뿐 이미 우리에게 익숙한 편이다. ‘2001 스페이스 오디세이’(1968)의 HAL 9000이라는 살인마 슈퍼컴퓨터, ‘블레이드 러너’(1982)의 합성인간 로이, ‘터미네이터2’(1991)의 무한변신 T-1000, 그리고 ‘매트릭스’(1999)에서 가상현실을 관장하는 에이전트 스미스 등등. 이런 영화를 보고 나면 섬뜩한 느낌과 함께 머리가 복잡해진다. 미래의 절망적인 풍경 때문이다.
 

최근 챗GPT를 필두로 한 AI의 급격한 발전과 진화 소식도 그렇다. 인류를 풍요롭게 한다는 긍정적 기대와 영화에서 접했던 종말론적 세상이 동시에 떠올라 소름이 돋기도 한다. 전문가들은 벌써 AI의 인간 일자리 대체, 사생활 침해, 대량 살상무기 개발, 무차별 해킹, 사이버 공격, 선거 조작, 가짜정보 생산 등을 경고하고 있다.
 
국제사회도 이런 위협에 대한 대비를 촉구하고 있다. 지난 18일 유엔 안전보장이사회는 AI의 위험을 주요 안건으로 올렸다. 안보리 역사상 AI 관련 첫 공식 논의였다.  
 
15개 이사국과 안토니우 구테흐스 유엔사무총장은 AI 전문가들의 상황 진단을 듣고 AI가 세계평화와 안보에 미치는 영향을 토론했다. 비록 특정 합의가 도출되진 않았지만 의제의 심각성에 대한 공감대는 이뤄진 듯하다.
 
AI 개발을 주관하고 감독할 법적 근거, 또는 국제적 합의는 현재 없는 상황이다. 초지능적으로 확장하는 관련 기술을 통제하는 틀도 전무하다. 향후 극도로 위험한 재앙으로 이어질 가능성도 있다. 무엇보다 AI 기술의 위험을 최소화하기 위한 윤리적 기준과 각국 정부의 규제가 요구된다. 국제적 협력 강화 시스템도 절실하다.

안착히 / 글로벌협력팀장