AI 기반 구인 도구는 고용 다양성을 향상시키지 못할 수 있다고 전문가들은 주장합니다.

등선

성 및 인종 편견을 피하기 위해 인공 지능을 사용한다고 주장하는 구인 도구는 고용의 다양성을 개선하지 못할 수 있으며 실제로 이러한 편견을 영속화할 수 있다고 케임브리지 대학의 연구원들이 일요일에 주장했습니다. 더 깊은 문제에 대한 빠른 수정을 제공하기 위해 기술을 사용하는 방법으로.

중요한 사실

중요한 인용문

"인공 지능을 사용하여 채용 과정에서 인종차별, 성차별 및 기타 형태의 차별을 없앨 수 있다고 주장함으로써 이 회사들은 우리가 세상을 살아가는 방식을 결정짓는 권력 시스템이 아니라 인종과 성별을 사소한 데이터 포인트로 축소합니다. "라고 Drage는 성명에서 말했습니다.

접선

아마존은 2018년에 중지 시스템이 여성을 강력하게 차별한다는 사실을 알게 된 후 AI 채용 도구를 사용하여 구직자의 이력서를 검토했습니다. 10년 동안 회사에 제출한 이력서를 기반으로 개발한 컴퓨터 모델이 대부분 남성 지원자였기 때문이다.

주요 배경

조직은 채용 프로세스를 관리하기 위해 점점 더 AI에 의존하고 있습니다. 하나의 설문 조사 2020 이 보고서의 저자가 인용한 300명 이상의 인적 자원 리더 중 컨설팅 회사인 Gartner는 고용주의 86%가 고용 관행에 가상 기술을 사용하는 것으로 나타났습니다. 일부 기업은 AI가 더 비용 및 시간 효율적인 채용 프로세스를 제공할 수 있다고 주장하지만 일부 기업은 전문가 있다 발견 시스템은 현실 세계의 기존 편견을 복제하여 인종 및 성별 편향된 고용을 제거하기보다는 조장하는 경향이 있습니다. 여러 미국 의원들은 겨냥한 기술이 계속 빠르게 발전하고 이를 규제하는 법률이 거의 없기 때문에 인공 지능 시스템의 편향을 해결하기 위한 것입니다. 이번주 백악관 발표 채용에 사용된 알고리즘이 "기존의 원치 않는 불평등을 반영 및 재생산"하거나 새로운 "편견과 차별"을 포함하는 것으로 밝혀졌다고 주장하는 "AI 권리 장전을 위한 청사진"입니다. 법적 구속력이 있거나 정부의 공식 정책이 아닌 청사진은 기업에 AI가 데이터 프라이버시를 차별하거나 위반하지 않도록 하고 사용자에게 기술이 사용되는 시기를 알릴 것을 요구합니다.

무엇을보아야하는지

추천 목록에서 Sunday's의 저자들은 철학과 기술 논문은 AI 기술을 개발하는 기업이 "편견의 개별 사례"보다 더 광범위하고 체계적인 불평등에 초점을 맞출 것을 제안했습니다. 예를 들어, 그들은 소프트웨어 개발자가 후보자를 분류, 처리 및 분류하는 데 사용되는 범주와 이러한 범주가 성별 및 인종에 대한 특정 가정에 의존하여 차별을 조장하는 방법을 검토할 것을 제안합니다. 연구원들은 또한 HR 전문가가 AI 채용 도구의 작동 방식과 잠재적 한계가 무엇인지 이해하려고 노력해야 한다고 주장합니다.

놀라운 사실

유럽연합(EU)은 AI 기반 채용 소프트웨어 및 성과 평가 도구를 새로운 보고서에서 "고위험"으로 분류했습니다. 징병 AI에 대한 법적 프레임워크, 즉 도구가 더 정밀한 조사를 받아야 하고 특정 규정 준수 요구 사항을 충족해야 합니다.

추가 읽기

DC는 AI 편견과의 싸움을 주도하기를 원합니다 (Axios)