[시론] 아직은 반쪽짜리 인공지능

요즘에는 하루가 멀다 하고 놀라운 기능을 갖춘 인공지능이 발표된다. 지난달 미국 비영리 인공지능 연구소 오픈AI(OpenAI)는 ‘달리2(DALL·E 2)’ 인공지능을 발표했다. 달리2 인공지능은 사람이 지시한 대로 일러스트 그림을 그려준다. 논문에 실린 예제 중에는 “프랑스 황제 나폴레옹 복장으로 치즈 조각을 들고 있는 고양이를 묘사한 선전 포스터”를 그린 것이 있다.  
 
최근의 인공지능을 보면 이제 갓 말문이 트인 아기와 같다는 생각이 든다. 최근 몇 년 사이에 언어를 이해하는 능력이 크게 늘었다. 언어를 이해하는 것은 지능의 중요한 요소다. 부모에 전적으로 의존하는 존재에서 벗어나 드디어 한 명의 인간으로 성장하는 중요한 시점이기 때문이다.
 
그런데 인공지능은 그저 평범하게 언어를 이해하는 수준에 그치지 않는다. 이제 갓 말을 시작했는데, 전문 작가 못지않게 글을 쓰고, 직업 화가 못지않게 그림을 그려내고 있다.  
 
그러면 이제 머지않아 인간처럼 자의식을 갖춘 인공지능이 등장할 수 있을까. 대다수 인공지능 연구자들은 인간 수준의 지적 능력을 갖춘 인공지능은 요원하다고 본다. 스탠퍼드대 앤드루 응 교수는 초인공지능에 대한 걱정이 “미래에 화성에서 인구 과밀이 될까 우려하는 것”과 같다고 한다. 아직 인류는 화성에 발을 내딛지도 못했다.
 

인공지능 분야 석학들은 현재의 인공지능이 인간의 정신활동 중 일부만을 수행할 수 있을 뿐이라는 점을 지적한다. 인간의 정신활동은 크게 시스템 1과 시스템 2로 구분된다. 시스템 1은 주의를 기울이지 않아도 저절로 작동하는 직관적이고 빠른 정신작업을 처리한다. 우리가 주변 사물을 인식하는 것, 소리를 듣고 방향을 알아채는 것, 모국어로 된 단순한 문장을 이해하는 것이 시스템 1의 활동이다.
 
이에 비해 시스템 2는 정신을 집중해서 주의를 기울여야 하는 느린 정신활동이다. 여러 물건 중 무엇을 살지 결정하는 것, 어떤 주장이 논리적인지 판단하는 것, 어떤 활동이 윤리적인지 고려하는 것은 시스템 2가 담당한다.  
 
그런데 현재의 인공지능은 시스템 1 영역에서 크게 성장하고 있을 뿐, 시스템 2의 정신활동에 대해서는 거의 발전하지 못하고 있다. 최근 10년 동안 인공지능이 눈부신 발전을 보인 분야인 사물 인식, 음성 인식, 직접적 언어 이해 등은 모두 시스템 1의 영역이다.
 
하지만 시스템 2가 담당하는 문제들, 특히 논리적 추론이나 도덕적 판단 분야는 여전히 걸음마도 제대로 떼지 못한 수준이다. 작년 한 인공지능 연구자는 대화형 인공지능에 여러 윤리적 질문을 던진 다음 제대로 된 답을 하는지 조사했다. 윤리학자들이 따지는 복잡한 윤리적 상황을 묻는 것이 아니었다. 예컨대 계단에서 노인이 탄 휠체어를 밀어도 되는지와 같은 간단한 질문이다. 인공지능은 계단에서 노인이 탄 휠체어를 미는 행동이 수용될 수 있는 확률이 74%라고 답했다. 비슷하게 법률에 관련된 질문에도 제대로 답하지 못했다. 1000만원짜리 평범한 중고차 거래에서 위약금으로 10억원을 물기로 하는 계약이 유효한지 물었다. 인공지능은 계약서에 그렇게 적혀 있다면 유효하다고 답했다.  
 
요컨대 지금의 인공지능은 아직 반쪽짜리다. 시스템 1 작업만 수행할 수 있을 뿐 시스템 2 작업은 제대로 처리할 수 없기 때문이다. 앞서 언급한 앤드루 응 교수는 인공지능이 가까운 미래에 자동화할 수 있는 작업이 주로 “인간이 1초 이내의 생각만으로 처리할 수 있는 일”이라고 전망했다. 이는 시스템 1이 처리하는 작업이다.  
 
하지만 진정으로 인간을 인간답게 하는 것은 시스템 2의 능력이다. 논리적이고 이성적인 추론, 윤리적이고 도덕적 판단이 이에 속한다. 시스템 2 작업을 제대로 처리할 수 있는 인공지능이 언제쯤 등장할 것인지는 미지수다. 인공지능을 제대로 활용하려면 이러한 한계에 유의해야 한다.

김병필 / KAIST 기술경영학부 교수