뉴욕시 기업들, 채용·승진에 AI 사용시 구직자에게 알려야

2021년 통과된 관련 조례, 오는 5일부터 효력
AI 소프트웨어, 편견 없도록 매년 감사 의무화

이번주부터 뉴욕시 기업들은 채용 과정이나 승진 심사 등에 인공지능(AI) 소프트웨어를 사용할 경우 심사 대상자들에게 알려야 한다.  
 
3일 뉴욕시 소비자및근로자보호국(DCWP)에 따르면, 2021년 통과된 ‘고용 도구 자동화 조례’(Int 1894-2020)는 오는 5일부터 효력을 발휘한다. 이 조례는 채용 과정이나 승진 등의 결정에 기업이 AI 소프트웨어를 사용한다면, 구직자나 직원에게 사용 여부를 통보하도록 의무화하고 있다. 또 이 통보는 AI 소프트웨어로 심사를 시작하기 10영업일 전에 이뤄져야 한다. 또 구직자나 직원이 어떤 데이터를 활용해 본인의 채용과 승진 여부를 결정했는지 요청한다면, 요청 후 30일 이내에 사용한 데이터를 공개해야 한다.  
 
채용 등의 과정에서 AI 소프트웨어를 사용하는 기업은, 매년 별도 감사도 뉴욕시로부터 받아야 한다. AI 소프트웨어가 합격자나 승진 대상자를 가리는 과정에서 편향된 결정을 내릴 가능성도 있다는 비판이 나온 데 따른 조치다. 전문가들은 AI 소프트웨어를 사용하면 기업들이 시간이나 비용을 절약할 수는 있지만, 해당 소프트웨어가 고정관념을 증폭시키면서 여성과 유색인종 구직자에게 불리한 결과를 낳을 수도 있다고 비판해 왔다.
 
만약 이 조례를 제대로 따르지 않는 회사가 적발되면 시 소비자및근로자보호국으로부터 벌금을 부과받게 된다. 최초 위반 적발 시 500달러 벌금이 부과되며, 이후 위반 여부가 추가로 적발될 경우 최대 1500달러 규모의 벌금을 부과받을 수 있다.  
 

최근 대기업들을 중심으로 다수 구직자를 걸러내고, 기존 직원의 성과를 평가하기 위해 AI를 사용하는 경우가 많아지고 있는 가운데, 뉴욕시가 관련 조례를 더 강화해야 한다는 지적도 나온다. 이 조례는 기업이 ‘뉴욕시에 거주하는’ 구직자나 근로자를 평가할 때만 적용되기 때문에, 타주에서 뉴욕시에 위치한 기업으로 취업하려는 구직자들에게는 해당하지 않아서다. 또 이 조례안은 근로자의 연령이나 장애 여부에 따른 차별을 막을 수 없다는 지적도 나오고 있다.  
 
기업들 역시 불만은 있다. CBS방송은 “특히 규모가 작은 중소기업들은 비용절감을 위해 AI 소프트웨어 도입을 검토했다가 감사, 벌금 등의 부담 때문에 철회하고 있다”고 지적했다. 

김은별 기자 [e-mail]