2016년엔 힐러리 당했다…2024년 美대선 덮친 'AI 선거' 공포
![도널드 트럼프 전 미국 대통령이 경찰에 체포되는 모습의 가짜 사진. 인공지능(AI)이 생성한 가짜 사진으로 소셜미디어를 통해 급속히 퍼졌다. 사진 소셜미디어 캡처](https://news.koreadaily.com/data/photo/2023/12/26/c7324ff4-f1ef-45ef-aed9-39a1748cdf92.jpg)
#2. 조 바이든 미국 대통령은 지난 10월 30일 AI 규제를 강화하는 내용의 행정명령에 서명하면서 자신을 본뜬 딥페이크 영상에 “내가 언제 저런 말을 했지?”라고 했다는 경험담을 전했다. 지난 1월 성소수자를 폄훼하는 내용의 가짜 연설 장면을 감쪽같이 구현한 영상을 접하고 대통령인 자신도 순간 착각했다는 얘기였다.
![조 바이든 미국 대통령이 지난 10월 30일(현지시간) 워싱턴 DC 백악관에서 인공지능(AI) 개발의 안전 및 보안 표준을 강화하는 내용의 행정명령에 서명하고 있다. 신화=연합뉴스](https://news.koreadaily.com/data/photo/2023/12/26/f40de227-97eb-4efc-822c-a9af5ac0c73b.jpg)
“2016·2020년은 SNS 선거, 2024년은 AI 선거’”
![2024년 미국 대선을 앞두고 생성형 인공지능(AI)을 통한 허위정보 확산 우려가 커지고 있다. 사진은 AI, 진실(Truth)과 가짜(Fake) 등을 합성해 만든 이미지. 중앙포토](https://news.koreadaily.com/data/photo/2023/12/26/9df9b83a-4a58-4a0f-abf6-4225cee5333d.jpg)
지난 9월 발표된 모닝컨설트·악시오스의 여론조사에서도 응답자의 절반 이상(53%)이 ‘AI가 퍼뜨리는 잘못된 정보가 후보들의 최종 승패에 영향을 미칠 것’이라고 답했다. 또 ‘AI가 2024년 선거 결과에 대한 신뢰를 떨어뜨릴 것인가’라는 물음에 응답자의 35%가 ‘그렇다’고 했다. 메스퀴타 학장은 “AI를 이용해 만든 가짜 콘텐트가 유권자 정보환경에 영향을 미쳐 무엇이 진실이고 거짓인지 판별하기 어렵게 만드는 것이 2024년 선거에서 증가할 것”이라고 말했다.
플랫폼 업체들도 AI를 활용한 정치 캠페인에 대한 대비를 서두르고 있다. 구글은 올 초 디지털 방식으로 제작·가공된 선거 광고의 경우 ‘눈에 띄게 공개’하도록 요구하겠다고 발표했다. 페이스북 모회사인 메타는 정치 광고에서 실제 인물이 하지 않은 말이나 행동을 새롭게 생성하거나 변조할 경우 이를 공개할 계획이라고 했다. 이와 관련, 챗 GPT를 만든 오픈AI는 지난 2월 AI로 만든 텍스트를 판별하는 프로그램 ‘클래시파이어’를 공개했으나, 정확도 등에서 한계가 있다는 지적이 나온다.
유권자 중복 방지 등 AI 역할론도
펜실베이니아 주의회 민주당 후보인 샤메인 대니얼스는 선거운동 폰뱅킹 업무에 AI 음성 기능을 활용하고 있다. 대니얼스는 “AI에 대한 사람들의 우려를 알지만 우리는 이 기술이 보여주는 기회를 이해하고 수용해야 한다”고 더힐에 말했다.
2016년 미 대선 때 SNS 타고 가짜정보 기승
이젠 딥페이크 기술의 고도화로 가짜 콘텐트를 더욱 쉽고, 빠르고, 정교하게 생산해 퍼뜨릴 수 있게 됐다는 점에서 심각성이 더욱 커졌다는 것이다. 리사 브라이언트 캘리포니아주립대 정치학과 석좌는 인스타그램과 같은 플랫폼에서의 광고가 사람들의 행동에 이미 상당한 영향을 미친다는 점을 들어 “누구도 이런 구조에서 완벽히 자유로울 수는 없다”고 말했다.
![2016년 미국 대선 때 ‘프란치스코 교황이 도널드 트럼프 후보 지지를 선언했다’며 유포된 가짜뉴스. 중앙포토](https://news.koreadaily.com/data/photo/2023/12/26/1dcf2264-48ef-4bed-a0d6-52189f317be7.jpg)
선거관리 당국이 ‘디지털 서명’ 등을 더욱 활성화해 정보 신뢰도를 높여야 한다는 주장도 나온다. 비영리 단체 ‘민주주의 보호’의 기술정책담당 니콜 슈나이드먼은 “사전 폭로(Pre-bunking, 허위정보에 노출되기 전에 미리 공개해 리스크를 줄임) 방식이 효과적일 수 있다”며 “선거 관리자들이 디지털 서명을 더 많이 도입해 언론인이나 대중에게 어떤 정보가 신뢰할 수 있는 출처에서 나온 것인지, 어떤 정보가 가짜인지 알려주길 바란다”고 말했다.
후보들이 쓰는 사진·영상 게시물에 디지털 서명을 포함시키는 방법도 검토할 만하다고 했다. 디지털 서명은 디지털 창작물의 원작자나 출처를 밝혀둠으로써 콘텐트 위·변조를 막는 방식으로 AI 기술 발전의 보완책으로 꾸준히 거론됐다.
한국도 4월 총선 앞두고 우려 커져
![노태악 중앙선거관리위원장이 지난 11월 3일 경기도 과천 중앙선관위에서 열린 제22대 국회의원선거 준비를 위한 시ㆍ도위원장 회의에서 모두발언을 하고 있다. 뉴스1](https://news.koreadaily.com/data/photo/2023/12/26/1f9bbeba-2c47-4df1-bcb3-600474f1c374.jpg)
중앙선관위는 지난 9월 생성형 AI를 통해 허위사실이 포함된 콘텐트를 누구나 쉽게 만들어 선거전에 악용할 수 있다는 점을 지적하고 ‘생성형 AI 신기술 도입에 따른 선거 규제’와 관련된 연구 용역을 발주했다. 중앙선관위는 내년 총선 전까지는 AI 허위정보에 대한 구체적인 규제 지침을 마련한다는 방침이다.
김형구(kim.hyounggu@joongang.co.kr)
with the Korea JoongAng Daily
To write comments, please log in to one of the accounts.
Standards Board Policy (0/250자)