뉴욕, 인사 및 채용 AI 시스템 법안 시행...'AEDT법' 본격 착수

인공지능(AI)으로 직원을 자동평가하는 프로그램에 대해 편향성을 정기적으로 감사하도록 의무화한 법률이 미국 뉴욕시에서 시행된다.

5일(현지시간) 뉴욕시는 지방법인 ‘자동 고용 결정 도구(AEDT) 법’의 본격 시행에 착수했다. AEDT는 직원의 채용과 계속 고용, 승진 등을 위해 평가에 사용하는 AI 프로그램이다.

이 법안은 지난해 뉴욕시 의회가 제정하고 올해 1월부터 발효했다. 그러나 뉴욕시는 AI 감사와 관련한 구체적인 지침이 없어 시행을 미뤘다가 질의응답(Q&A) 방식으로 세부 규제 방안을 마련한 뒤 이날부터 적용하기 시작했다.

이에 따르면 뉴욕시의 기업들은 인사 및 채용을 위한 AI 도구에 대해 독립적인 감사관으로부터 해마다 편향성 감사를 받아야 하며 감사를 받지 않은 도구 사용은 금지된다.

또 도구에 대한 독립적 감사 결과는 공개해야 한다. 공개 보고서에는 사용중인 알고리즘에 대한 정보를 비롯해 다양한 인종과 민족 및 성별에 따른 ‘평균 점수’가 포함된다.

이 법규 위반에 따른 처벌은 1회 위반 시 375달러(환화 약 49만원), 2회 위반 1350달러(환화 약 176만원), 3회 이상 위반은 1500달러(환화 약 196만원)의 벌금을 부과한다.

이 법은 뉴욕시에 거주하지 않더라도 지역 기업에 고용되는 근로자에게 모두 적용된다.

뉴욕시와 의회는 지난 2020년 채용이나 인사에 대한 AI의 '편향 위험'에 관한 문제 제기를 공식적으로 받아들이고 인사 및 채용 AI 시스템에 대해 감사 활동을 의무화하는 ‘AEDT법’을 제정했다.

[email protected]