AI 시스템 안전 기준 마련한다

바이든 대통령, AI 행정명령 서명
안보·보건 등 데이터 정부와 공유
AI 제작 콘텐트엔 ‘워터마크’ 부여
차별금지·노동자 보호…산업 지원도
관련 인력 확보 위한 비자환경 개선

조 바이든 대통령(왼쪽)이 30일 워싱턴DC 백악관에서 인공지능(AI) 보안 기준 등을 담은 행정명령에 서명하고 있다. [로이터]

앞으로 인공지능(AI) 시스템 개발자는 국가 안보·공중 보건 등의 영향 여부를 정부에 보고해야 한다. AI가 제작한 콘텐트에는 워터마크를 부여해 시민들이 사실 여부를 가릴 수 있도록 해야 한다.
 
30일 조 바이든 대통령은 이런 내용을 담은 ‘안전하고 신뢰할 수 있는 AI 행정명령’에 서명했다.
 
행정명령은 ▶새로운 AI 보안 기준 ▶프라이버시 보호 ▶공정성 및 시민권 확대 ▶소비자·부모·학생 보호 ▶노동자 지지 ▶혁신 및 경쟁 추구 ▶글로벌 리더십 확대 ▶정부의 책임 있고 효과적인 AI 사용 등 8가지 내용을 담았다.
 
이제 AI 시스템 개발자들은 공공안전 등과 관련된 정보를 정부와 공유해야 한다. 또 AI 시스템의 안전과 신뢰를 보장하는 기준 및 도구를 개발해야 한다.
 

시민들이 가짜 정보에 현혹되지 않도록 AI가 생성한 음성·영상 등에는 워터마크를 심어야 한다. 상무부는 이를 위한 가이드라인을 개발할 예정이다.
 
AI 도구에는 강력한 사이버보안 프로그램을 심어야 하며, 정부는 군사적 사용처를 제한하는 ‘국가안보각서’를 마련해야 한다.
 
바이든 대통령은 무분별한 AI 사용으로 인한 차별 문제도 지적했다. 주택 구매나 정부 계약, 채용 등에 있어 AI가 차별을 강화하는 알고리즘을 사용하지 않도록 해야 한다.
 
아울러 AI는 저렴한 의약품 개발, 효율적인 교육 도구 개발 등에 쓰여야 한다. 노동자들의 이익을 극대화하는 데 활용돼야 하며 단기 노동자 등을 해고하는 이유가 돼선 안 된다.
 
AI 스타트업 등에 대한 지원도 강화한다. 글로벌 AI 기술을 이끌어 가기 위해서다. 여기엔 앞서 보도된 대로 관련 종사자들을 위한 비자 환경을 개선하는 내용이 포함됐다. 〈본지 10월27일자 A3면〉
 
다만 구체적 내용 없이 “고숙련 이민자·비이민자가 미국에서 일할 수 있도록 비자 기준·인터뷰·검토 과정을 현대화 및 유연화”하겠다고만 명시했다.
 
글로벌 협력도 강화한다. 미국은 한국을 비롯한 21개 국가 및 국가연합과 관련 협약을 맺은 바 있다.
 
바이든 대통령은 “AI는 기회이자 리스크”라며 “리스크를 해결하고자 하는 정부의 노력에 동참해준 의회와 기업들에 감사하다”고 말했다. 

이하은 기자 [e-mail]