AI 악용한 가짜 음란 사진 늘지만 단속 어려워

[교육 현장 딥페이크 논란]
일리노이 10학년 2명 처벌
베버리힐스 8학년 5명 퇴학
마이애미 중학생 2명도 체포

주별 가장 입학 어려운 대학

몇 주 전 일리노이주 소재 한 고교 복도에 서있던 15세 여학생은 10학년 동급생 중 한 명이 인공 지능(AI)을 이용하여 자신의 누드 사진을 만들고 있다는 사실을 알게 됐다. 그와 다른 10대 여학생들의 조작된 이미지 수십 개가 온라인을 떠돌고 있다고 한 친구가 그에게 말했다. 더군다나 일부 사진은 교사를 묘사하기도 했다는 것도 덧붙였다.  
 
이 학교 교장이 그 여학생의 어머니에게 전화를 걸어서 알려온 바에 따르면, 그 여학생은 피해자 목록에 있는 22번째 여학생이었다. 여학생의 어머니는 이 매체와의 인터뷰에서 "처음에는 매우 속상했다"며 "하지만 둘 다 상황에 대해 매우 화가 나기까지는 그리 오랜 시간이 걸리지 않았다"고 말했다.
 
이러한 종류의 분노는 전국적으로 비슷한 사건이 연달아 발생하면서 많은 부모, 특히 어린 여학생들을 포함한 다수의 분개로 이어지고 있다. AI가 미국 경제와 문화에서 더욱 강력하게 대세로 자리 잡으면서 학교 당국자들도 AI가 학교에 침투하는 것을 파악하고 있다.
 
교장이 학부모에게 보낸 메시지에 따르면 이런 종류의 초기 기술을 단속하는 것은 쉽지 않다. 그는 3월 15일 메시지에서 "최근 사건을 되돌아보면 기술과 소셜미디어 영역에서 새로운 도전에 직면하고 있다는 것이 분명해졌다"며 "우리가 겪고 있는 대부분의 상황에 대한 플레이북은 없다”고 밝혔다. 여기서 플레이북이라는 것은 필요한 규칙.대응법.목표 등 포괄적인 것인데 다시 말해서 처음 있는 일이어서 대처법이나 대응방법이 마땅히 없다는 하소연이다. 하지만 사례가 늘어나면서 교장과 학부모는 교육구 정책과 주법을 뒤섞어 헤쳐 나가야 하며, 그 중 일부는 다른 것보다 더 엄격해야 한다.  
 

USA투데이가 입수한 영장에 따르면 지난 12월 플로리다에서 발생한 사건으로 중학생 2명이 체포됐다. 적어도 지금까지 다른 주와 교육구에서는 그 결과가 덜 심각했다.  
 
전문가들은 학교 당국이 비슷한 악몽을 피하고 싶다면 지금이 바로 AI에 대한 규칙을 명확히 해야 할 때라고 입을 모으고 있다. 민주주의 기술 센터(Center for Democracy and Technology)의 언론 자유 변호사 케이트 루안(Kate Ruane)은 “모든 사람을 위해 예방 조치를 취한다면 두더지 잡기 게임보다 훨씬 더 나은 입장에 놓이게 될 것”이라고 말했다. 바로 예방책이 지금 필요하다는 조언이다.
 
◆마이애미에서 중학생 체포

 
지난 12월에는 마이애미의 한 차터 스쿨에 다니던 중학생 2명이 AI 앱을 이용해 12~13세 동급생의 누드 사진을 만든 혐의로 체포 영장을 발부 받았다.  
 
'성적으로 노골적인 이미지의 무단 홍보'를 금지하는 플로리다 주법을 인용하며 중학생들을 3급 중범죄로 기소했다. 텍사스와 버지니아를 포함한 많은 주에서는 타인의 이미지를 사용하여 동의 없이 음란물을 제작하는 것을 범죄로 규정하는 소위 '딥페이크 법'을 시행하고 있다. 훨씬 더 많은 주의회가 그러한 규칙을 법전에 포함시키는 것을 고려하고 있다.
 
조지워싱턴대 법대 교수이자 리벤지 포르노(Revenge porn) 법률 전문가인 메리 앤 프랭크스(Mary Anne Franks)에 따르면 플로리다의 법령은 특히 가혹하다. 특히 프랭크스에 따르면 마이애미 중학생 사건은 너무 과한 처벌의 한 사례였다.
 
◆베벌리힐스 학생들, 딥페이크 스캔들

 
몇 달 후, 비슷한 스캔들이 캘리포니아주 베벌리힐스에 있는 중학교를 강타했다.  
 
CBS LA뉴스와 베벌리힐스 통합 교육구 성명에 따르면 지난 2월 베벌리 비스타 중학교의 8학년 학생 5명이 AI를 사용해 다른 8학년 학생 16명의 얼굴을 누드 사진에 합성하는 데 참여했다.
 
베벌리힐스 경찰국 대변인에 따르면, 이번 사건에 대한 조사가 시작돼 지금 한창 진행 중이다.  
 
지난 3월 6일, 베벌리힐스 통합교육구 이사회는 관련된 8학년 학생 5명을 퇴학시키는 처벌을  승인했다고 LA타임스가 보도했다.
 
통합교육구 교육감은 USA 투데이와의 인터뷰에서 "우리는 학생들이 여전히 배우고 성장하고 있으며 실수도 이 과정의 일부라는 것을 알고 있다"며 "그러나 책임은 필요하며 적절한 조치가 취해졌다"고 밝혔다.
 
◆피해자 어머니가 말하는 '미지의 영역'에 있는 학교

 
일리노이주 고교의 여학생 사건의 경우 사진을 유포한 학생은 자신의 학교 이메일 주소를 사용했다고 여학생의 어머니는 밝혔다. 그는 학교 당국은 다른 학생이 이런 사실을 학교 측에 보고할 때까지 무슨 일이 일어나고 있는지 조차 파악하지 못했다고 말했다. 그는 또 "어떤 필터가 뭔가를 포착했어야 했다"면서 “몇 달 동안 이러한 일이 계속 자행 되었을 수도 있다”고 말했다.
 
이 학교 교장은 USA 투데이에 리치몬드 경찰국이 이 사건을 조사하고 있다고 확인했다. 그는  사법 기관에서 매일 수사 업데이트를 학부모들에게 제공하고 있다고 말했다. 최근 커뮤니티에 보낸 메시지에서 그는 사진 제작에 연루된 혐의로 기소된 학생들은 적어도 남은 학기에는 학교로 돌아오지 못할 것이라고 말했다.  
 
피해 여학생은 그런 사진들이 자신을 괴롭히지 못하게 다시 나타나지 않기를 바랄 뿐이다. 왜냐하면 어머니가 말한 것처럼 이런 딥 페이크 스캔들은 일선 교육 현장에 있어서'미지의 영역'이기 때문이다. 

장병희 기자