北정찰총국 해커집단 '김수키' 챗GPT 썼다…중·러·이란도 활용
MS는 14일(현지시간) 발표한 ‘국가와 연계된 위협 행위자의 악의적인 AI 사용 차단’ 보고서를 통해 이 같은 사실을 밝혔다. 보고서에 따르면 북한 정찰총국 연계 해커조직 ‘킴수키(Kimsuky)’가 대표적인 챗GPT 사용 집단이다. 국방 문제나 북한 핵무기 프로그램에 중점을 둔 북한 관련 싱크탱크, 정부 기관, 전문가 파악해 이들에게 평판이 좋은 학술 기관이나 NGO를 사칭해 북한 관련 외교 정책에 대한 전문적인 통찰력과 논평을 하도록 유도했다. 이 과정에서 챗GPT를 활용했다.
스피어 피싱(특정인을 목표로 피싱 공격)에 사용할 콘텐트 제작, MS 제품의 취약점 파악, 웹 기술 사용과 기술적 문제 해결에도 챗GPT를 썼다. 보고서는 “에메랄드 슬릿이라 불리는 이 집단은 2023년 활발하게 활동한 북한 위협 단체로 ‘킴수키’, ‘탈륨’, ‘벨벳’, ‘천리마’ 등의 이름으로 활동한 해커 집단과 행위자가 일치한다”고 설명했다.
이란 이슬람혁명수비대와 관련된 해커집단은 바이러스 백신 앱을 피하기 위한 코드 등을 작성하는 데 챗GPT의 도움을 받았다. 이들은 챗GPT를 활용해 국제 개발기관에서 보낸 것처럼 위장하거나, 페미니즘 활동가를 겨냥한 피싱 메일을 작성했다. 중국 연계 조직 차콜 타이푼과 사몬 타이픈 등도 챗GPT를 활용해 도구 개발, 스크립팅, 등에 챗GPT를 사용했다.
보고서에 따르면 해커들은 IP 조작 등을 통해 일반 사용자들처럼 챗GPT를 사용한 것으로 알려졌다. 다만 지금까지 해커 집단의 챗GPT활용 방식은 업계가 우려하는 것처럼 지금껏 상상하지 못했던 공격법을 만들어내는 것은 아니라고 한다. 문서 번역, e메일 초안 작성, 코드 디버깅(오류수정)과 같은 일상적인 방식으로 챗GPT를 사용했다.
오픈AI의 보안분야 책임자인 밥 로트스테드는 “적대국가와 연계된 해커들이 오픈AI를 활용해서 일반 검색엔진보다 참신하고 새로운 공격방법을 찾아냈다는 증거는 아직 발견되지 않았다”고 말했다. 톰 버트 MS 보안분야 책임자는 “해커들도 일반 컴퓨터 사용자들처럼 생산성을 높이는 데 오픈AI를 사용했다”고 말했다.
그럼에도 향후 챗GPT가 해커들의 능력을 키워줄 가능성은 있다. MS의 수석 탐지 분석 관리자인 호마 하야티파는 “AI는 공격자(해커)가 공격을 더욱 정교하게 만드는 데 도움이 될 수 있으며, 공격자는 AI에 투입할 수 있는 자원이 있다”며 “MS가 추적하는 300개 이상의 위협 행위자에서 이런 사실을 확인했고, AI를 사용해 보호, 탐지 및 대응하고 있다”고 말했다.
이 기사는 구글 클라우드의 생성 AI를 기반으로 중앙일보가 만든 AI 시스템의 도움을 받아 작성했습니다.
이승호(wonderman@joongang.co.kr)
with the Korea JoongAng Daily
To write comments, please log in to one of the accounts.
Standards Board Policy (0/250자)