[전문가 칼럼] 인공지능에도 필요한 용서의 정신

2000년대 후반 이후 미국에서는 ‘박스 금지하기(Ban-the-Box)’ 운동이 활발히 펼쳐졌다. 직원을 채용할 때 전과 확인을 금지하자는 것이다. 미국 입사 지원서에는 흔히 전과 여부를 묻는 체크 박스가 있어 유래한 말이다. 무엇보다 미국에는 흑인 전과자가 많으므로 전과 확인을 막음으로써 흑인에 대해 차별적인 채용 관행을 줄이자는 취지가 컸다.

이 운동의 결과 미국 많은 주에서 채용 시 전과 확인을 금지하는 법을 통과시켰다. 하지만 이 법이 흑인 채용에 어떠한 영향을 끼쳤는지는 논란이 되었다. 한 연구에 따르면 이 법을 통과시킨 주에서는 오히려 젊은 흑인 남성의 고용이 줄어들었다고 한다. 고용주가 지원자의 전과 여부를 알 수 없으니, 전과가 있을 가능성이 큰 저숙련 흑인 남성을 아예 채용하지 않으려는 경향을 보였던 것이다.

이 연구대로라면 원래 흑인에 대한 차별적 채용 관행을 막으려 했던 정책이 정반대의 효과를 낳은 셈이다.

우리는 살아가면서 많은 경우 누군가에 의해 평가의 대상이 된다. 항상 긴장되고 떨리는 일이다. 반대로 다른 사람을 평가하는 위치에 서는 일도 생긴다. 그때마다 누군가를 평가하는 것이 얼마나 어려운지 새삼 느끼게 된다. 그래서 앞으로 인공지능이 사람을 평가하는 일이 늘어날 것이다.

그럼 인공지능이 사람을 평가하는 사회가 되면 괜찮을까? 여러 법적·윤리적 문제가 있겠지만, 그 중 특히 고민해야 할 지점은 인공지능이 어떤 데이터까지 사용해도 될 것인지 한계를 정해야 한다는 것이다. 인공지능이 정확하게 사람을 평가하려면 더 많은 정보를 사용할 수 있어야 한다. 미국의 전과확인 금지법 사례는 정보를 원천적으로 차단하면 오히려 부작용을 낳을 수 있다는 점을 잘 보여주었다.

그래서 원칙적으로 더 많은 정보가 자유롭게 흐를 수 있도록 보장해야 한다.

하지만 아무런 제한 없이 모든 정보를 사용할 수 있도록 허용할 수는 없다. 예전에 실수로 공과금을 연체한 기록이 있더라도 영원히 신용평가에 꼬리표처럼 따라다니게 해서는 안 된다. 누구라도 한두 개쯤 감추고 싶은 부끄러운 과거는 있다.

그러나 이제 데이터 대부분이 온라인으로 저장되니 정보를 삭제하기란 쉽지 않다. 인터넷에 한 번 올라오고 나면, 이를 일일이 찾아서 없애는 일은 불가능에 가깝다. 예전처럼 종이 서류에 정보가 기록되던 때에는 시간이 흐를수록 기록은 빛이 바래고, 더 이상 찾기 어렵게 된다. 하지만 온라인에 디지털로 저장된 정보는 아무리 오래 지나도 예전 그대로 남아있다.

인공지능이 과거 데이터를 활용하는 것이 무엇이 문제인가라고 반문할 수도 있다. 과거에 잘못된 행동을 했으면 그에 따라 현재의 불리한 결정을 감수해야 한다고 생각할 수 있다. 자신의 과오에 대해 책임을 지도록 하는 것, 그것이 바로 ‘자기 책임의 원칙’이다.

그래도 한 번의 잘못이 영원한 족쇄가 되어서는 곤란하다. 응분의 책임을 졌다면 다시 시작할 기회를 줄 필요도 있다. 그래서 책임의 원칙은 ‘용서의 정신’과 항상 함께해야 한다. 의외라고 여길 수도 있지만, 법 곳곳에는 용서의 정신이 스며들어 있다. 민법에는 소멸시효 제도가 있어 일정한 기간이 지나면 채무를 면한다. 형의 실효 제도에 따라 일정 기간이 지나면 전과사실이 말소된다.

이렇게 놓고 보면, 일단 잘못에 비례하는 대가를 치르고 나면 용서를 해 주는 것이 세상 돌아가는 이치인 듯도 싶다.

따라서 우리는 인공지능에도 용서의 정신을 가르쳐야 한다. 지나치게 오래된 정보는 개인을 평가하는데 사용할 수 없도록 제한할 필요가 있다. 어떠한 정보를 어떠한 목적으로 언제까지 활용할 수 있는지 그 한계를 정하도록 노력해야 한다.

더 많은 정보가 더 자유롭게 흐르도록 허용하면서도 지나치게 많은 정보가 흘러넘치지 못하게 둑을 쌓는 지혜도 필요하다.


김병필 / KAIST 기술경영학부 교수