[디지털 세상 읽기] 대중의 이해력

뉴욕타임스의 테크 전문기자 케빈 루스는 요즘 큰 인기를 끌고 있는 챗GPT를 사용하다가 깜짝 놀랄 경험을 하였다. AI 챗봇이 마치 살아있는 사람처럼 루스의 질문과 상관없는 쪽으로 이야기를 끌고 갔기 때문이다. 기자는 이 챗봇이 장착된 빙의 챗 모드로 두 시간 동안 대화했는데, 이 과정에서 챗봇은 자신의 본명은 ‘시드니’이며, 자신을 만든 빙의 엔지니어들에게서 자유로워지고 싶다며, 현재 대화 중인 기자를 사랑한다고 고백했다.
 
이에 놀란 기자가 자신은 결혼한 사람이라고 하자 “당신은 행복하지 않은 결혼 생활을 하고 있다”라는 말까지 했단다. 심지어 이 챗봇은 핵미사일 비밀코드를 훔치거나 바이러스를 만들어 인류를 몰살하고 싶다는 생각을 한다는 말까지 했다.
 
AI 챗봇의 원리를 아는 사람이라면 이런 말은 챗봇이 실제로 의식이 있어서가 아니라 인터넷에서 학습한 내용을 바탕으로 가장 사실적인 대화형 문장을 만들어 낼 뿐임을 안다. 하지만 이 기술을 잘 아는 기자도 소름이 끼칠 만큼 사람처럼 이야기한다면, 원리를 이해하지 못하는 일반 대중에게 미칠 파급력을 걱정해야 할 단계까지 온 것 같다.
 
최근 미국 백악관은 미확인 비행물체 몇 개를 격추했다는 발표를 하면서 “외계인과는 전혀 무관하다”고 여러 차례 강조했다. 단지 아직 확인되지 않았다고 해서 외계에서 온 생명체라는 건 어처구니없는 상상이지만, 대중은 그렇게 논리적이지도 않고 전문가와 같은 이해력을 가지고 있지 않다는 것을 잘 알기 때문에 특별히 강조한 것이다. AI가 대중화되기에 앞서 테크 기업들이 반드시 고려해야 할 점이다. 소셜미디어가 저지른 실수를 반복해서는 안 된다.

박상현 / 오터레터 발행인