뉴욕시, ‘채용 AI’ 감사 강화

‘사전감사 필수’ 조례안 통과
성별·인종 따른 차별 심화 방지

뉴욕시가 인공지능(AI) 기반 채용 툴을 편향되게 사용할 수 없도록 감사를 강화한다. 공정한 심사를 위해 사용된 AI가 오히려 성별, 인종에 따른 차별을 심화하는 도구로 악용될 수 있다고 본 것이다.  
 
30일 경제전문매체 크레인스뉴욕에 따르면, 시의회는 최근 채용 AI를 사용하기 전 반드시 편견 감사를 받도록 하는 조례안(Int.1894-2020)을 통과시켰다. 이에 따라 채용시 이력서 스캐너, 비디오 분석 도구 등을 사용하는 기업들은 사전 감사를 받아야 한다. 또 지원자들에게는 해당 도구를 쓴다는 사실을 미리 알려야 한다. 이를 어긴 기업은 최초 적발시 500달러의 벌금을 내야 하며, 이후엔 위반할 때마다 500~1500달러의 벌금을 물게 된다.
 
조례안이 예상보다 약하다는 비판도 나온다. 비영리재단 민주주의기술센터(CDT)는 “조례안이 수정되면서 뉴욕시에 거주하는 근로자들에게만 적용되도록 바뀌었다”며 “적용 범위가 크게 축소됐다”고 주장했다. 또 “이 조례안은 연령이나 장애 여부에 따른 차별을 막을 수 없다”고 덧붙였다. 한편 빌 드블라지오 뉴욕시장은 해당 조례안에 대한 지지 의사를 밝혔다.    

김은별 기자 [e-mail]