自疫情开始以来,越来越多的公司已转向用AI协助招聘。最常见的系统涉及使用面部扫描算法,游戏,问题或其他评估来帮助确定要面试的候选人。大数据的应用在疫情下被迫提前“营业”,数据分析应用场景多元化,但是这种AI协助到底会起到什么作用,众说风云,观点不一。

激进主义者和学者警告说,这些筛查工具可以使歧视长期存在,而制造商本身则认为,采用算法进行招聘有助于纠正人为偏见。可以对算法进行测试和调整,而人为偏见则更难纠正。

在2019年12月的一篇论文中,康奈尔大学的研究人员回顾了算法筛选公司的概况,以分析其主张和实践。他们确定使用英语网站的18家公司中,大多数人将自己推销为以人为本的更公平的招聘选择,这表明他们开始对这些问题加倍关注,以宣传其工具的好处并吸引更多的客户。

但是,歧视并不是算法聘用的唯一问题,一些学者担心,侧重于偏见的营销语言会让公司摆脱诸如工人权益之类的其他问题。这些公司之一的新预印现在提醒我们:“我们不应该让人们开始关注偏见和歧视问题,而实际上却排除了还有很多其他问题的事实,” Solon说。 Barocas是康奈尔大学的助理教授,也是Microsoft Research的首席研究员,他研究算法的公平性和责任制。 

有问题的公司是总部位于澳大利亚的PredictiveHire,成立于2013年10月。它提供了一个聊天机器人,向候选人询问一系列开放性问题。然后,分析他们的反应,以评估与工作相关的人格特质,例如“动力”,“主动性”和“韧性”。根据该公司首席执行官芭芭拉·海曼(Barbara Hyman)的说法,其客户是必须管理大量应用程序的雇主,例如零售,销售,呼叫中心和医疗保健等应用程序。正如康奈尔大学研究发现的那样,它还积极地在营销语言中运用了更公平招聘的承诺。

正如我们之前所写,“无偏差”算法的想法极易引起误解。但是PredictiveHire的最新研究由于另一个原因而令人困扰。它着重于建立一种新的机器学习模型,该模型旨在预测候选人跳槽的可能性,这种跳槽的习惯比雇主期望的要频繁。这项工作是在该公司最近经过同行评审的研究之后进行的,该研究研究了开放式访谈问题如何与人格相关(本身就是一个颇有争议的做法)。Hyman说,由于组织心理学家已经显示出个性与跳槽之间的联系,该公司希望测试他们是否可以将现有数据用于预测。她补充说:“考虑到员工流失率很高,估计是每位员工工资成本的16%,员工留存是我们合作的许多公司的工作重点,”

该研究使用了使PedictiveHire聊天机器人的45,899名候选人的自由文本回复。最初曾向申请人询问五到七个开放式问题以及关于他们过去的经历和情况判断自我评价的问题。这些问题包括旨在弄清以前研究表明与跳槽倾向密切相关的特征的问题,例如对经验更开放,更不务实,以及脚踏实地。该公司的研究人员声称该模型能够预测具有统计意义的跳槽。PredictiveHire的网站已经在宣传这项工作,将其作为“ 即将发生的”“飞行风险”评估。

PredictiveHire的新作品是内森·纽曼(Nathan Newman)认为是大数据对劳动力的最大不利影响之一的典型例子。约翰·杰伊刑事司法学院的副教授纽曼(Newman)在2017年的一篇法律论文中写道,除了对就业歧视的担忧之外,大数据分析还以多种方式被用来压低工人的工资。

例如,基于机器学习的人格测验正越来越多地被用于雇用人员,以筛选出那些有可能激起更高工资或极度认可企业的潜在员工。雇主越来越多地监视员工的电子邮件,聊天和其他数据,以评估可能离开的人,并计算使他们留下来所需的最低加薪幅度。而且,像Uber这样的算法管理系统正在将工作人员分散在办公室和数字会议场所之外,使他们能够相互协调,共同要求更好的待遇和薪水。

在这种情况下,PredictiveHire的战斗风险评估只是这种趋势的另一个例子。Barocas指出:“跳槽或跳槽的威胁,是员工能够增加收入的主要方式之一。” 该公司甚至根据组织心理学家设计的性格检查来建立评估。

Barocas不一定主张完全放弃这些工具。他认为,使每个人都能更好地进行招聘的目标是一个崇高的目标,如果监管机构要求提高透明度,则可以实现这一目标。他说,目前他们都没有受到严格的,经过同行评审的评估。但是,如果公司对自己的做法更加乐于接受,并提交了进行此类验证的工具,则可以帮助他们承担责任。它还可以帮助学者更轻松地与公司接触,以研究工具对劳动和歧视的影响。

他说:“尽管我过去几年的所有工作都表达了对这些东西的担忧,但我实际上相信,其中许多工具都可以显着改善当前的状况。”

发表评论

您的电子邮箱地址不会被公开。