[김병필의 인공지능 개척시대] 숙고, 숙의하는 인공지능

인공지능(AI)의 가파른 발전은 올해도 이어질까. 쉽사리 답하기 어려운 문제다. 그래도 답을 찾아본다면, 그 답은 아마도 ‘규모의 법칙’이 얼마나 지속될 것인지에 달려 있을 것이다. 규모의 법칙을 요약하면 AI를 더 크게 만들면 그에 비례해 성능이 좋아진다는 것이다. 지난 수년 동안 AI 발전을 추동해 온 동력이 바로 이 법칙이었다.

2020년 오픈AI가 GPT-3를 발표한 것이 시발점이 되었다. 오픈AI는 종전의 GPT-2보다 용량을 100배 이상 키운 GPT-3를 개발했고, 비약적 성능 개선을 달성했다. 이후 AI 산업계는 규모 경쟁에 몰두해 왔다. AI를 더 큰 용량으로 만들고, 더 많은 학습 데이터를 더 오래 학습시켰다. 규모의 법칙이 잘 작동한 결과, 지금 우리가 사용하는 AI의 성능은 5년 전과 비교할 수 없이 나아졌다.

AI 성능 향상, 규모의 법칙 한계
여러 답 생성해 검증하는 ‘숙고’
다수 AI 토론해 결론내는 ‘숙의’
깊이 생각하는 미래 AI 나올 듯

하지만 문제는 규모의 법칙이 언제까지나 지속되기는 어렵다는 것이다. 규모를 키우는 데는 한계가 있기 마련이기 때문이다. 오픈AI의 공동 창립자인 일리야 수츠케버는 이미 현재의 AI는 용량을 더 키우더라도 성능 증대 효과가 미미하다는 문제가 있다고 지적한다. 경제학에서 말하는 수확체감의 법칙이 AI 발전에서도 적용되기 시작한 것이다.

그러면 머지않아 규모의 법칙은 끝나게 될까. 인간 수준 AI를 향한 낙관적 기대는 그만 접어야 할까. 그렇지는 않아 보인다. 규모의 법칙에 있어 새로운 패러다임이 등장하고 있기 때문이다.

새로운 규모의 법칙은 AI를 더 크게 만들지 않더라도, AI를 더 오래 실행시켜서 성능 향상을 꾀할 수 있다는 것이다. 즉, AI가 더 깊이 ‘생각’하게 하면 더 나은 답을 찾을 수 있다는 뜻이다. 지금 우리가 사용하는 AI는 대부분 질문을 하면 곧바로 답을 생성한다. 마치 우리가 질문을 받았을 때 곧바로 떠오르는 생각을 가감 없이 말하는 것과 비슷하다. 그러면 잘못 답변할 가능성이 크다. 그렇지 않고 질문에 대해 더 오래, 더 깊이 생각하고 답하면 더 나은 때가 많다.

AI도 마찬가지다. AI도 우리 질문에 곧바로 답하는 것이 아니라 더 오랫동안 계산해서 답하면 답변이 개선된다. 얼마 전 개최된 미국 CES 박람회 기조연설에서 엔비디아 CEO 젠슨 황은 이러한 새로운 패러다임을 강조했다. 그는 이를 ‘학습 단계를 넘어선 실행 단계에서의 규모 증대’라 불렀다. 나아가 그는 새로운 규모의 법칙이 앞으로도 이어지리라 전망했다.

AI를 더 오래 실행시키면 어떻게 더 나은 답을 찾아낼 수 있을까. 여기에는 크게 두 가지 전략이 있다. 하나는 ‘숙고’이고, 다른 하나는 ‘숙의’이다.

숙고는 한 질문에 대해 여러 답을 비교하여 가장 좋은 답을 고르는 과정이다. AI가 질문마다 단 하나의 답을 생성하는 것이 아니라 수십, 수백 가지의 답을 생성한 다음 가장 나은 답을 골라낼 수 있다. 또한 AI는 자신이 생성한 답을 비판적으로 평가하고, 오류가 없는지 스스로 검증해 보는 과정을 수행할 수도 있다. 이러한 과정을 반복적으로 거치면 복잡한 추론 문제에서의 성능이 적지 않게 개선될 것으로 전망된다.

다른 한편, 숙의는 혼자가 아니라 여럿이 함께 토론하여 더 나은 답을 찾아가는 과정이다. AI도 마찬가지다. 앞으로 인간 요청에 대해 하나의 AI가 답을 생성하는 것이 아니라, 여러 AI가 협업할 것이다. 각기 서로 다른 전문 분야에 특화되어 학습된 여러 AI를 활용하면 더 나은 결론을 도출해 낼 수 있을 것이다. 머지않아 이용자가 질문을 하면 여러 AI가 상호 토론을 거쳐 합의된 결과를 출력하는 때가 올 것이다.

숙고와 숙의를 거치는 AI를 지금 당장 구현하기에는 여러 장애가 있다. 이용자 요청을 처리하려면 훨씬 더 많은 계산을 해야 하므로, 응답 속도가 느려지고 전력 소비도 늘어날 것이다. 하지만 앞으로 새로운 AI 기술이 발전하고 반도체 성능이 개선된다면, 이처럼 숙고하고 숙의하는 AI의 발전은 이어질 것이다.

흥미롭게도 이러한 AI의 발전 방향은 인류가 발전시켜 온 민주적 의사결정 과정과 비슷하다. 어떤 사회가 민주주의를 통해 좋은 결정을 하려면 구성원들의 숙고와 숙의가 모두 필요하다. 구성원 각각은 사회 문제에 관해 숙고하여 자신의 의견을 형성해야 한다. 나아가 여러 구성원이 함께 의견을 교환하는 숙의의 과정을 거쳐야 더 나은 결론으로 나아갈 수 있다. 이처럼 민주적 의사결정 과정은 다양성과 협업의 가치를 존중함으로써 더 정확하고 사려 깊은 답을 찾는 것이라 평가할 수 있다.

이제껏 민주주의가 숙고와 숙의를 통해 번성해 올 수 있었던 것처럼, 미래의 AI 역시 마찬가지의 과정을 통해 발전해 갈 것이다. 2025년 새해가 밝았다. 우리 사회와 AI 모두 숙고와 숙의를 거쳐 더 현명한 답을 찾도록 노력하는 한 해가 되기를 기원한다.

김병필 KAIST 기술경영학부 교수