艾格·格雷夫斯基一直想让硅谷变得更加多元化。他于2012年创办了一家叫做Mya Systems的公司，这家公司的总部位于旧金山。格雷夫斯基希望通过这家公司减少人为因素对企业招聘的影响。“我们正尝试剔除招聘过程中的偏见”，他说道。
格雷夫斯基正在和Mya共同实现他的目标。Mya是一个很智能的聊天机器人，可以对求职者进行面试和评估。格雷夫斯基认为，和一些招聘人员不同，经过编程的Mya会向求职者提出客观的、基于工作表现的问题，并避免人类可能产生的潜意识判断。Mya评估求职者的简历时，不会关注他的外表、性别和名字。“我们正极力剥除这些因素”，格雷夫斯基说道。
格雷夫斯基表示，目前已经有几家大型招聘机构正在使用Mya，不过他拒绝透露这些公司的名字。这些招聘机构用Mya来对求职者进行初试。Mya可以根据工作的核心要求对申请者进行筛选，了解他们的教育和专业背景，告知求职者他们所应聘职位的细节，衡量他们是否感兴趣；同时还能回答求职者关于公司政策和文化方面的疑问。
众所周知，科技产业存在多元化不足的问题，而且纠正这一失衡现象的速度缓慢得令人失望。虽然有公司指出这是“流水线调度问题”，但其实问题的根源出在招聘。招聘是一件非常复杂、繁重的工作，招聘人员需要挑选出最合适的人选，但他们往往存在许多偏见。某种程度而言，招聘系统决定了企业的技术人才构成。假如企业能够摆脱招聘过程中的人为因素重新招聘，会发生些什么呢？很多创业公司正在开发相关的工具和平台，用人工智能技术招聘人才，他们认为这些工具和平台将大幅减少招聘过程中的偏见。
HireVue也是一家尝试用人工智能消除招聘偏见的企业。通过基于智能视频和文本的软件，HireVue可以从视频面试中提取多达25000个数据点，从而判断出最合适的工作人选。英特尔、沃达丰、联合利华和耐克等公司都在使用HireVue的系统。HireVue的评估依据涵盖了面部表情到词汇表达等众多因素，它甚至可以衡量应聘者的同情心等抽象品质。HireVue的首席技术官Loren Larsen表示，通过HireVue“无论应聘者是什么性别、种族、年龄，做过那些工作，读的什么大学，都将获得同样的机会。”因为这款工具为所有应聘者提供了相同的应聘流程，而不是像人类招聘员那样，情绪和环境等因素都会影响到他的判断。
尽管AI招聘工具尚未得到广泛使用，但咨询公司CEB的产品管理总监Aman Alexander认为，它在人力资源中的流行度正在增加。CEB公司为AMD、Comcast、Philips、Thomson Reuters以及沃尔玛等大型企业提供了一系列的人力资源工具。Aman Alexander说道：“需求一直在快速增长。招聘工具最大的用户不是科技公司，而是需要招聘大量员工的大型零售商。这意味着对于企业主而言，它们最大的魅力在于可以提升效率而不是公平性。”
不过，HireVue和Mya等产品背后的团队认为，它们的工具可以让招聘过程更加公平。因为自动化需要设立标准，这意味着使用人工智能助手的企业必须清楚如何对应聘者进行评估。理想情况下，这些参数可以在良性循环中不断更新，AI系统通过分析它收集到的收据，可以让整个过程更加公正没有偏见。
不过值得注意的是，AI的效用是由驱动它的数据决定的，而这些数据又是由凌乱、令人失望且充满偏见的人类产生的。
只要你深入挖掘那些旨在促进公平的算法，就会发现它们或多或少都存在偏见。ProPublica检查用于预测再犯率的警用工具时发现，该算法对非裔美国人存在偏见。Beauty.AI是一个利用人脸和年龄识别算法选美的软件，它可以从提交的一系列照片中选出最具吸引力的人物。不过令人遗憾的是，它对浅色皮肤和头发的人表现出了强烈的偏爱。
即便是那些AI系统的创造者也不得不承认，AI并非完全没有偏见。AI招聘平台Talent Sonar的创始人兼CEO劳拉•马瑟（Laura Mather）表示：“在招聘过程中使用AI非但不会减少，反而会增加偏见。”她认为，AI依赖于人类团队所产生的训练集，所以它只会增加偏见而不是消除它。它雇佣的人可能“都很聪明、有天赋，但却彼此十分相似”。
此外，由于AI是为处理大批量招聘而开发的，任何偏见都将对谁将脱颖而出产生系统级的影响。据格雷夫斯基介绍，Mya Systems正在聚焦零售等行业。“CVS Health正在招聘12万人补充到它的各个零售点中，Nike每年招募的人也有8万之多”。任何渗透到系统中的偏见都将产生工业规模的影响。当面对多达12万的规模庞大的申请者时，AI平台可能会让招聘标准迅速偏离人类招聘专员最初的设置的标准。
话又说回来，AI的强大能力也有一定的好处：它解放了招聘人员，让他们可以集中精力做出更加明智的最终决定。“在我的一生中，我和成千上万个招聘人员交谈过，他们每一个人都在抱怨自己的时间不够用”，格雷夫斯基说道。既然没有足够的时间和每一个应聘者交谈，那么直觉决策就变得很重要。AI不仅使得招聘人员可以应对更大规模的应聘者，同时也帮助他们告别了快速决策的工作状态，能够更加从容周全地思考和判断。
要避免AI系统步入“偏见”的陷阱，就要求工程师和程序员具有超知觉。格雷夫斯基解释道，Mya Systems对Mya用来学习的数据种类进行了控制。这意味着Mya的决策是基于Mya Systems及其客户预先批准的数据生成的，而非原始的、未经处理的招聘和语言数据。这减小了Mya像Tay一样学习偏见的可能性。Tay是微软去年发布的聊天机器人，经过循环学习后，它很快变成了一个种族主义者。不过Mya Systems的做法并不能消除偏见，因为任何经过审核的数据都反映了人们的选择倾向和偏好。
正因为如此，AI人力资源工具可能无法消除偏见，反而会将其永久化。ReadySet是一家位于奥克兰的多元化咨询公司，其执行总监Y-Vonne Hutchinson表示：“我们尽量不将AI视为灵丹妙药。AI是一个工具，AI有制造商，有时AI可以放大制造商的偏见和制造商的盲点。Hutchinson 接着说道：“要让这些工具工作，使用它们的招聘人员必须经过训练，要能够发现自己和其他人的偏见。”如果没有这种多元化的训练，人类招聘专员就会把他们的偏见植入到招聘的不同环节。
一些使用AI人力资源工具的公司正在努力增强其多元性。Textio是一个智能文本编辑器，它可以运用大数据和机器学习对职位列表提出修改意见，从而吸引不同类型的人才。Atlassian是Textio的众多客户之一，据Atlassian全球多元化和包容性负责人奥布里·布兰奇表示，Textio帮助公司将新员工中的女性比例从18％提高到了57％。
布兰奇说道：“我们看到，我们筛选和最终雇佣的应聘者在性别分布上有了显著的变化。她表示，使用Textio的意想不到的好处之一是，除了Atlassian的应聘者变得多元化之外，公司对企业文化也有了自我认识。“这引起了很多关于语言如何影响我们作为雇主的品牌形象的内部讨论”。
总而言之，如果AI招聘工具能够提高生产力，那么它就能得到更加广泛的使用。但如果企业想仅仅靠引进AI来让招聘更加公平，这还远远不够。用不断加深的对多元化的认知来完善AI系统十分重要。AI或许无法成为科技行业解决多元化问题的灵丹妙药，它充其量只是硅谷努力变得更好的一种重要工具罢了。
via wired 雷锋网编译 雷锋网雷锋网
正在生成分享图...
刘伟