[아웃소싱타임스 김민수 기자] 채용부터 해고까지, 이제 일터의 의사결정은 점점 더 인공지능(AI) 알고리즘이 주도하는 시대가 되고 있다. 

업무 효율과 생산성을 높인다는 이유로 빠르게 확산되고 있지만, 이면에는 차별, 프라이버시 침해, 설명 불가능한 판단 등 심각한 노동권 침해 가능성이 숨어 있어 법적 대응과 제도 개선이 시급하다는 지적이 나온다.

정보통신정책연구원(KISDI)이 7월 발표한 `인공지능 기술이 근로관계에 미치는 영향과 노동법적 대응 방안` 보고서에 따르면, 인공지능은 단순히 서류를 검토하는 수준을 넘어 채용, 평가, 보상, 배치, 해고 등 전 과정에 걸쳐 판단을 내리는 역할을 하고 있다. 

문제는 그 판단 기준과 결과가 불투명하고, 편향된 데이터에 따라 차별이 발생할 가능성이 높다는 점이다.

■ 채용 단계부터 차별 위험…AI는 공정하지 않을 수도

AI 채용 시스템은 수천 건의 이력서를 단시간에 분석해 채용 절차를 단축시키는 등 효율성을 높이고 있다. 

하지만 이 과정에서 `통근 거리`, `주소지`, `학력` 같은 배경 정보가 차별 요소로 작용할 수 있다. 예컨대, 회사와 먼 거리에 사는 사람을 탈락시키는 알고리즘은 높은 집값을 감당하지 못하는 사회경제적 약자를 자동으로 걸러내는 결과를 낳는다.

게다가 심층학습 기반 AI는 왜 특정 후보자가 탈락했는지 설명조차 어렵다. 알고리즘의 판단 기준이 블랙박스처럼 숨겨져 있기 때문에, 구직자는 납득할 만한 이유조차 들을 수 없고, 항의나 이의 제기도 불가능한 상황에 처하게 된다.

■ 일의 방식까지 바꾸는 ‘알고리즘 관리’…감시와 통제 강화

채용만의 문제가 아니다. 업무 배정, 성과 평가, 스케줄 관리 등 기업의 인사관리 영역에서도 알고리즘이 노동자를 통제하고 있다. 이를 ‘알고리즘에 의한 관리’라고 부른다.

예를 들어 배달 플랫폼에서는 거리, 평점, 충성도 같은 데이터를 바탕으로 알고리즘이 업무를 자동 배분한다. 이때 기업은 각 변수의 가중치를 임의로 설정할 수 있어, 과속이나 무리한 운행을 한 근로자가 오히려 더 많은 일감을 받게 되는 구조가 만들어진다. 이는 결과적으로 노동자 간 과도한 경쟁을 부추기고, 안전사고나 건강 악화를 유발할 수 있다.

또한 업무 속도, 위치, 대화 내용까지 감시하는 디지털 시스템은 프라이버시 침해뿐 아니라, 근로자의 건강권과 정신적 스트레스를 악화시킬 가능성이 높다. UN 인권이사회는 2021년 보고서를 통해 이러한 감시가 단결권과 자유를 위협할 수 있다고 경고한 바 있다.

■ 단순한 금지 아닌, 구조적 개선 필요하다

권오성 연세대 법학전문대학원 부교수는 이 같은 문제를 해결하기 위해선 `AI 차별 금지`라는 선언만으로는 부족하며, 법과 제도 전반의 체계적 정비가 필요하다고 강조한다. 특히 간접차별이나 대리변수에 의한 차별까지 포괄할 수 있는 규범 개선이 필수라는 지적이다.

권 교수는 인공지능 알고리즘이 사용되기 전, 독립된 감사기관을 통해 사전 감사를 실시하고, 문제가 있는 경우에는 시스템 출시 자체를 막는 제도적 장치를 마련할 것을 제안했다. 특히 고위험 알고리즘에 대해서는 주기적인 영향평가와 함께 법원이 사용 중단을 명령할 수 있는 근거도 필요하다고 밝혔다.

■ 기업의 설명 책임 강화…알고리즘 공개까지 고려해야

AI 인사 시스템의 핵심 문제는 투명성 부족이다. 따라서 기업이 어떤 기준으로 데이터를 수집하고 어떻게 알고리즘이 작동하는지 근로자에게 알려주는 최소한의 통지 의무가 필요하다. 여기에 그치지 않고, 제3자 감사기관이나 정부 기관이 해당 시스템을 점검하고 인증하는 절차도 병행돼야 한다.

특히 근로자의 평가·승진·해고 등 법적 지위에 중대한 영향을 미치는 알고리즘은 일정 수준의 ‘공개 의무’까지 요구돼야 한다. 기업의 영업비밀 보호도 중요하지만, 그로 인해 근로자의 권리가 침해돼선 안 된다는 게 보고서의 핵심 주장이다.

■ 결론 및 정책적 시사점

AI 기술이 고용시장에 가져온 변화는 혁신이자 위협이다. 기술을 어떻게 활용하느냐에 따라 공정성을 높이는 도구가 될 수도 있고, 기존의 차별과 불평등을 강화하는 수단이 될 수도 있다. 결국 중요한 것은 기술 자체가 아니라 그 기술을 어떻게 ‘관리’하느냐다.

세종대 경영학과 이용기 교수는 "AI가 사람을 대체하는 시대에 가장 중요한 건 기술이 아니라, 그 기술을 통제할 수 있는 법과 윤리"라며 "근로자의 권리를 침해하지 않으면서도 혁신을 실현할 수 있는 사회적 합의가 필요하다"고 강조했다.

정부와 국회는 지금이야말로 인공지능 시대의 노동 환경을 재설계할 수 있는 결정적 시기임을 인식하고, 기업의 책임은 무겁게, 근로자의 권리는 분명하게 보장하는 정책적 기반을 마련해야 할 것이다.

■ 이 기사와 관련된 Q&A

Q1. AI 채용 시스템은 어떤 점에서 차별을 일으킬 수 있나요?

A1. 주소지, 통근 거리, 학력 등 사회경제적 배경이 판단 기준에 반영돼 간접차별이 발생할 수 있습니다.

Q2. 알고리즘이 업무 배정을 할 경우, 근로자에게 어떤 문제가 생기나요?

A2. 비가시적 기준이 경쟁과 과속을 유도해 안전과 건강을 위협할 수 있습니다.

Q3. 근로자는 AI 판단에 대해 이의를 제기할 수 있나요?

A3. 현재는 구조적으로 어렵지만, 향후 설명의무와 이의제기권 도입이 필요하다는 제안이 있습니다.

Q4. 기업은 AI 인사 시스템에 대해 어떤 책임을 져야 하나요?

A4. 근로자에게 작동 방식과 기준을 사전 통지하고, 독립기관에 정기 보고할 의무가 논의되고 있습니다.

Q5. 정부가 해야 할 역할은 무엇인가요?

A5. 고위험 알고리즘에 대한 영향평가 제도와, 차별 방지 규범의 법제화를 추진해야 한다는 목소리가 큽니다.

출처 :  아웃소싱타임스(https://www.outsourcing.co.kr)