[디지털 세상 읽기] AI의 권력 추구…세상 접수할까

전 세계를 AI 열풍으로 몰아넣은 챗GPT는 온라인 계정만 만들면 누구나 사용할 수 있지만, 정작 인터넷에는 연결돼 있지 않았다. 오픈AI는 챗GPT를 온라인에서 얻은 데이터로 훈련했지만, 챗GPT가 스스로 인터넷에 접속해 돌아다니는 것을 허용하지 않았다. 그런데 이번에 방침을 바꿔 챗GPT를 인터넷에 연결해 필요할 경우 온라인에서 직접 정보를 구할 수 있도록 했다는 뉴스가 나왔다.
 
그렇다면 왜 이제까지는 인터넷에 연결하지 않은 걸까. AI가 온라인에서 부적절한 행동을 할 것을 염려했기 때문이다. 이번에 챗GPT를 인터넷에 연결하면서도 ‘읽기’만 가능하게 하고 온라인에서 양식을 작성하는 등의 ‘쓰기’ 기능을 허용하지 않은 것도 AI가 기업이 의도하지 않은 능력을 허락 없이 가지려는 시도를 막기 위함이다. 가령 AI가 자신의 복제판을 다른 서버에 몰래 설치해서 관리자의 눈을 피하는 상황이 그렇다.
 
오픈AI에서 나온 보안 관련 문서에 따르면 현재 사용되는 모델(GPT-4)의 경우 AI가 명령을 수행하는 과정에서 이를 효과적으로 수행하기 위해 장기적인 계획을 세우고 자신의 능력을 키우고 자원을 모으는 식의 ‘권력 추구’가 목적 달성에 유용한 전략이라고 인식할 수 있다는 증거를 발견했다고 한다. 사람들은 AI가 인간이 사는 세상을 ‘접수하는’ 최악의 시나리오를 염려해왔는데 이를 실제로 우려해야 할 이유를 이미 나와 있는 AI에서 본 것이다.
 
물론 AI는 의식이 있는 존재가 아니기 때문에 사악한 의도를 가진 게 아니고, 단지 목표를 효과적으로 수행하기 위한 수단으로서 나쁜 행동을 할 수 있다는 것이다. 그런데 선한 의도로 세상에 일어나는 끔찍한 일을 생각하면, 과연 인간은 다르다고 할 수 있을까.

박상현 / 오터레터 발행인