算法;劳动;劳动歧视;雇主;劳动者;法律规制;算法劳动歧视

在本质上,劳动歧视是指雇主在劳动资源分配上对弱势劳动者不合理的利益限制与削减。在工业时代,劳动歧视通常以言辞、书面文件为承载,而直接发生于劳动关系主体之间,主要表现为劳动领域的性别歧视、种族歧视、户籍歧视等。为作区分,本文以“传统劳动歧视”指代该时期的劳动歧视。而进入数字时代,算法在劳动领域的结构化嵌入则使传统劳动歧视强化并升级为算法劳动歧视。它是指雇主以算法为代理,由后者输出对弱势劳动者产生不合理利益限制的决策结果并予以现实化。在逻辑上,算法劳动歧视与传统劳动歧视同属于劳动歧视的下位概念,是平行的更迭与被更迭的关系。在形成上,资本逻辑与雇主权力的复合作用是劳动歧视生成的根本原因,而劳动管理的算法化则是传统劳动歧视演变为算法劳动歧视的直接原因。

(一)算法劳动歧视的特征

最后,基于算法对雇主权力的技术深化,算法劳动歧视还存在辐射范围上的扩张。当劳动关系结束时,雇主仍存在出具离职证明、为劳动者办理档案和社会保险关系转移的法定附随义务。若劳资双方存在履行离职竞业限制约定、企业需支付补充养老保险等情形,雇主还可以继续收集、处理前员工的个人数据,对举报雇主不法行径或具备某些组织团体成员身份的员工进行特别标记,形成所谓“职场黑名单”,并将这种歧视性影响向其他雇佣情境扩张而影响离职劳动者的再就业。因此,算法劳动歧视的高度关联性进一步加剧了其影响的深度,使歧视范围呈现出纵深化的特征。

(二)算法劳动歧视的内在构造

其三,算法劳动歧视的行为结果是对弱势劳动者的差别性不利影响。也即对劳动能力、工作表现等核心特质相同的一组劳动者进行算法分析,具有弱势特征的劳动者与对照组劳动者相比遭受了更加不利的计算结果,继而在劳动实际中受到相应的利益限制。值得强调的是,这种不利益主要表现为被歧视劳动者现实利益的应得而未得,如劳动机会、晋升机会等。这是一种预期利益的减损,区别于侵权法上作为损害结果的既得利益的扣减。法律禁止劳动歧视的目的在于实现劳动者平等劳动与雇主雇佣自由之间的平衡,但也需要尊重市场规律在劳动力遴选中的重要作用,不得以禁止歧视之名强迫雇主接受不能胜任的劳动者或某些不合理的负担。因此,即便算法将劳动者的某些不利特征作为筛选条件,雇主同样可以主张已有的抗辩事由,通常包括真实职业资格、正当经营所需、实质变更与业务负担、平权措施等 。

(三)算法劳动歧视的生成逻辑

马克思在《资本论》中提出:“资本只有一种生活本能,这就是增殖自身,创造剩余价值,用自己的不变部分即生产资料吮吸尽可能多的剩余劳动。”追求价值增殖是资本最基础的逻辑,也是其根本特性。而资本在生产出货币利益的同时,也生产出以雇主权力为介质的支配关系。换言之,资本运动是推动价值增殖和产生权力关系的双重运动。工业时代的劳动歧视是资本在追求价值增殖与维持权力支配过程中的风险产物,而至数字时代,通过控制算法,资本将其增殖逻辑包装为数字化逻辑渗入劳动力再生产过程,不仅强化了其增殖能力与权力能力,也在无形中使劳动歧视得到强化,进而衍生出“算法劳动歧视”的新形态,并反映在算法劳动管理的实践中。因此,从本质上来说,算法劳动歧视是资本逻辑、雇主权力与算法技术相互作用的结果。

首先,在资本增殖逻辑下,算法劳动管理秉持的是一种“效率至上”的价值观。因为效率最容易被量化为没有争议的数字变量,以符合利益计算的要求。那么 ,在效率逻辑下 ,算法在集中处理劳动者数据时,会自动将一些特征不太明显的数据直接认定为错误( 或噪声)数据 ,从而导致少量却非无用的数据在往后的算法决策中消失不见。而这种逻辑缺陷恰好契合了劳动歧视的发生路径。原因在于,在传统劳动歧视的影响下,弱势劳动者群体在企业内部劳动力市场中往往占比偏低,数据痕迹较少。而当弱势劳动者群体的数据在训练集中分布过于稀疏时,人工智能只能从中提取到该群体的零星特征,算法模型无法精准匹配,便会在应用层面产生厚此薄彼的歧视效果。例如,我国信息业中女性劳动者占比始终偏低,那么以互联网企业员工数据库为训练基础生成的算法则难免存在性别歧视的隐患。再者,为了降低计算成本、提升归类效率,算法运行还是一种动态循环的过程,受算法决策影响的个体所产生的行为数据随时会转化为另一轮算法学习的资源与基础。这意味着,一旦某个个体或群体具有了非正向的算法身份,就会一直被带入下一轮运算中而不断强化对该群体的负面成见,并最终承受算法在劣势累积下作出的歧视性推断与相应决策结果,如限制或排除某些劳动权利或机会。

直观地看 ,算法劳动歧视导致了劳动资源在优势与弱势劳动者之间的分配不公 ,侵害了弱势劳动者同样享有的发展乃至生存的权利。然而, 算法劳动歧视对数字时代劳动者权益保护带来的危机却不止于此。从整体意义来说 ,算法劳动歧视在横向上引发了劳动者隐私权、休息权等相关劳动权利危机 ,在纵向上则反映出劳动者主体性危机的进一步深化。而传统的劳动歧视审查制度却存在无法有效规制的适用危机。

(一)劳动者隐私权、休息权等劳动权利危机

与算法劳动歧视相伴而生的是劳动者隐私权、休息权等劳动权利危机。一方面,为了实现对劳动力的有效筛选,雇主必须充分掌握劳动者的个人信息,由此引发劳动者的隐私泄露危机。鉴于互联网生态具有数据高度流通的特性,在劳动关系成立以前,算法可以通过扒取劳动者在交易领域留下的数据痕迹进行联想、标记、分类,并用于就业市场的歧视性筛选,实施劳动领域的“大数据杀熟”。在劳动关系成立后,雇主则可在劳动者的计算机或移动设备上安装监控软件以记录和监视劳动者在这些信息设备上的操作行为,包括其浏览的网站地址、收发的文档邮件、网络聊天内容、社交媒体动态等,并借助算法进一步解析劳动者原本合法保留的个人信息,实质架空劳动法对劳动者非工作相关隐私的保护功能。

(二)劳动者主体性危机

更深入地说,算法劳动歧视还折射出劳动者主体性危机的进一步深化。事实上,算法劳动歧视的底层逻辑与劳动者主体性危机近乎重合,二者都暗含着劳动者的主体客体化趋势,即算法将劳动者视为可解析的数据集合体、劳动过程中可计算的客观因素。但从本质上来说,劳动是劳动者主导下的有意识、有目的的活动,而不是机器的客观生产过程,劳动者也并非机器性能的延伸或雇主的生产工具。劳动者的主体性便是指劳动者在劳动过程中作为人所具备的能动性、创造性、主导性、意识性,集中体现为劳动者对劳动过程的控制。历史证明,从工业时代以来,雇主便借助机器化生产和专业化分工,试图将劳动者与生产过程的核心分离。然而,无论工业机器如何将劳动者边缘化,其本质上也只是人类体力和主观劳动经验的对象化,还无法对人们在实践过程中构建的复杂多元状况进行独立的逻辑推理和因果分析,不具备任何的自主性。但在数字时代,算法突破性地具备了人类认知方面的功能。其通过对大数据的自动化感知和高精度处理来模拟人的视觉、听觉、语言、行为,甚至是人的思维逻辑,从而具备了“类主体性”。这意味着,在算法的辅助下,雇主的劳动管理实践可以从劳动者的外在行为控制深入至其内在思维诱导。例如,借助算法,雇主可以通过对劳动者数字痕迹的深度解析来掌握其个性、心理与偏好,并在此基础上投放定制化内容以引导其思维走向,由内消解劳动主体意识,加速劳动者的主体客体化。而基于对工具理性的信任,以及在节约思维成本的行为习惯下,劳动者也倾向于将劳动过程中的问题交由算法解决,而非进行创造性的思考,由此引发二者的主体性颠倒。久而久之,当劳动者停止创造,当劳动过程的一切都可以被清晰精准地计算和解释时,既有的技术也将停止更新,最终对社会发展带来巨大的负面影响。因此,劳动者主体性危机是深入人类社会制度层面的根源性危机。其预示着构成人类生存根基的劳动本质力量正处于消减之中。算法劳动歧视的强化,无疑预示着劳动者主体地位的弱化、劳动者主体性危机的深化。而规制算法劳动歧视,便是要求算法正向发展,不背离道德伦理与劳动者的基本利益 ,坚持“人是目的而非手段” ,其间接具有维护劳动者主体性的特殊价值。

(三)传统劳动歧视审查制度的适用危机

第一 ,在事由要素上,基于非法定区分事由的算法劳动歧视争议将无法通过法院的诉前审查,例如劳动者因罹患慢性非传染病、存在较高健康风险而遭致歧视等。并且,在算法使用虚假中立标签的场合中,劳动者若不具备一定的技术背景知识与逻辑思维能力,也难以识别并证明中立信息与法定区分事由之间的代理关系,进而无法寻求司法救济。第二,在后果要素上,算法劳动歧视的侵权后果通常是劳动者预期利益的不当减损,而预期利益往往难以证明,即便证明也难以得到支持。第三,在关系要素上,既有审查经验并未明确劳动者的弱势特征与侵害结果间的因果关系是否具有排他性。换言之,在雇主存在混合动机的情况下,法院往往难以有效干预此类歧视行为,而这也为以多变量关联计算为技术特征的算法劳动歧视创造了司法豁免的可能。就雇主是否必须具备歧视故意的议题,各地法院暂未达成共识,但主观故意的缺失的确会让法官倾向于得出非歧视的结论。在过往的审判实践中,大多数法院都要求原告劳动者提供雇主过错的直接证据,尤其是涉及歧视性言论的记录等。因此“证明难”一直是此类诉讼的主要障碍,而在算法的中介下,劳动歧视还被技术中立的外观所掩盖,进一步加剧了劳动者的举证难度。

(一)算法劳动歧视的内在之治

关于如何辅助雇主判断其所使用算法的偏差程度 ,人力社保部门可以就此制定算法劳动管理的技术性标准。其规制意义在于:第一,技术标准可以在算法生命周期的早期阶段将伦理和可信价值量化为产品要素,将法律和道德观念转化为代码设计标准,进而规范算法研发流程,弱化雇主不断将设计复杂化、黑箱化的不良激励,引导算法“向上”“向善”;第二,技术标准具有政策法令无法比拟的灵敏性与专业性,对技术迭代能够作出及时、动态的预测、研判和跟踪。这意味其能够及时捕捉算法在部署或更新前后的性能变化,并进行切实而微妙的调适,也为算法影响评估制度的有效开展奠定基础;第三,在算法侵权事故发生后,技术标准可以作为认定技术损害和缺陷的重要依据,在宏观上也有利于人工智能产品责任制度的构建。

首先 ,对于技术标准的制定工作 ,人力社保部门应起统筹作用而非具体执行。考虑到订立技术标准需要凝聚大量专家学者在技术论证与认知方面的关键共识 ,因此 ,不宜将标准的制定工作全程置于行政部门内部 ,而应与国内知名技术机构、科研院校展开专项合作 ,必要时亦可引入域外权威机构作为临时顾问 ,就标准的科学性、适用张力、应用范围进行讨论与反复验证。人力社保部门则更多发挥监督与统筹职能 ,同时要构建合理的利益代表参与机制 ,赋予工会组织一定的话语权 ,提高标准制定的多元性与代表性。

其次,在标准时效上,必须保证技术标准供给与技术迭代的“同频共振”,以确保标准供给对实践需求的高度响应。必须在保证技术标准严谨性的前提下,尽可能缩短其制定周期,以及时弥补已暴露的技术缺口。借鉴国际标准化组织和国际电工委员会成立的第一联合技术委员会在制定人工智能技术标准时的分级思路 ,我们认为,对有特殊制定需求的技术标准应当适度简化工作流程,如平台用工中涉及劳动者休息权、健康权等生存权利的算法系统的技术标准。因为此类算法系统具有较高风险性,一旦出现技术缺陷,不仅会对劳动者的生命造成重大威胁,甚至可能将风险外溢至公共安全领域,故必须定期按照最新标准进行技术调适。而对于常规类型的技术标准,如针对人事考勤之类的低风险算法的技术标准,应当尽量省去不必要的审查程序,在标准制定的规范性与时效性之间达成平衡。

(二)算法劳动歧视的外在之制

从概念上来说,算法影响评估制度是在算法设计、部署与运行期间,要求算法治理的相关利益主体对算法可能造成的风险及其对社会的影响进行充分评估的赋责性机制。2019年,华盛顿州提出的S.B.5527和H.B.1655法案明确规定,政府和公共机构在公共事业场景中应用自动化决策系统时应当评估算法影响。2023年7月5日,纽约市消费者和工人保护部出台的《第144号法规》更将算法规制延伸至劳动领域。其要求雇主必须提前一年将计划在招聘和晋升决策中使用的算法提交至独立审计员,以接受后者的偏差审计。并且,雇主必须公布最近一次偏差审计的结果摘要,提前至少十个工作日告知被决策劳动者算法选择的资格和特征。由此可见,完善的算法影响评估制度将是治理算法劳动歧视的有力工具,其功能在于前置性地将雇主算法管理对劳动者或其他利益主体可能造成的不利影响降至可控的合理水平。即使算法无意承载了雇主的歧视性价值判断,通过构建系统化、场景化、精细化的算法影响评估制度,不论是算法劳动歧视,还是其尚不显著的关联风险,都可以得到有效化解。因此,未来人力社保部门可以出台关于组织开展算法影响评估的具体规则,并围绕以下几点进行构建。

在评估方式上,我国算法影响评估可采取企业评估与行政审查相结合的方式。鉴于非技术性企业通常只能是算法系统的受让者,那么在算法设计者与应用者分离的情况下,评估义务的具体承担可以通过采购合同进行协定。但必须确保的是,算法系统在正式部署时已经通过相应的评估环节,其安全性能已然得到一定的权威认证。而在行政审查的制度设计上,为了提升评估的专业性与全面性, 实现权力能力与技术能力的平衡,除了社保部门、企业协会、行业工会传统三方以外,还必须邀请一定比例的权威技术人员,与前三者共同组成算法审查委员会。另外,从现实出发,未来随着算法技术的成本优化与应用泛化,对任何类型的算法系统都进行双边评估是无法实现的。更加切实可行的做法是建立差异化评估机制,即不同算法风险等级对应不同评估流程,不同评估结果对应不同监管强度。对于初步判定为低风险的算法系统,算法影响评估则以企业评估为主,算法审查委员会负责形式审查与技术备案工作。对于中高风险算法,算法审查委员会将进一步承担实质审查的复审工作,由此提高评估效率与评估精度。

（2）建立综合性评估指标体系

需要强调的是,雇主还必须事先将算法技术方案告知并听取工会意见。算法技术方案应当属于《劳动合同法》第 4 条规定的“涉及劳动者切身利益的规章制度或重大事项”范围。因此,单位工会或职工代表有权听取雇主关于算法系统运行逻辑、功能的详细解释,并提出质询,就具体方案所隐含的歧视风险与雇主展开集体协商。另外,由于算法的运行过程也是各式风险的动态演变过程,源源不断的数据收集以及算法与其他技术或社会系统的关联互动,可能使算法应用影响脱离雇主与监管者的预设。因此,对算法的影响评估不应仅局限于事前阶段,而应贯穿算法的全生命周期。事中定期与不定期评估的加入可以帮助确认算法运行是否偏离设计意图、是否仍在技术安全范围内,以免出现意外不可控的结果。尽管作此类影响评估在短期内会增加企业的运营成本,令企业承受更大的社会责任,但从长远来看,自我审查有助于企业维持劳动者信心及促进劳动力市场的健康发展,具备充分的必要性与可行性。

2.联结算法劳动监察与劳动歧视的司法救济

其次,当劳动者遭受雇主算法管理的负面影响而起诉维权时,由于现阶段劳动歧视的司法审查模式尚不成熟,更现实的路径是将算法劳动歧视或算法歧视这一大类认定为特殊的侵权事由。考虑到传统侵权责任强调原告对行为结果间的因果关系与过错责任证明,而难以发挥对劳动者的救济功能,我们认为还应当就雇主算法管理的归责原则作出特殊安排。例如,对中高风险算法的行政审查与使用批准实质上属于行政许可,其隐含侵权风险较为显著,对应严格责任,但同时可鼓励雇主购买一定份额的保险或设立基金以分摊风险。低风险算法则采取过错责任推定与举证责任倒置规则。但无论是何种类型的算法侵权,劳动者都只需要证明侵权结果的实际发生,以保证劳资举证责任分配的实质公平。而鉴于算法劳动歧视具有高度隐蔽性,一种可行的取证方案是将传统的横向对照扩张到纵向对照,即劳动者可以选择以自身过往经历为对照,证明其因某项事由的改变而遭受不同以往的不利决策结果,例如雇主因劳动者残障或突发恶疾而以其他借口不正当解除劳动关系。此外,由于某些具有人身依附性的特征难以改变也不可虚拟,劳动者也可以通过假想对照,证明其一旦消除或取得某种特性便可以获得更加有利的对待,进而证明算法管理决策中歧视的存在。雇主若主张责任豁免,则需要围绕目的正当性、必要性、是否满足歧视最小化要求等方面进行举证。