据外媒报道，当地时间9月23日，加州州长加文·纽森签署了一项法案，禁止企业惩罚那些在休息或用餐时间未能达到一定绩效指标的仓库工人。尽管法案中没有点名，但外界普遍认为，该法案是针对亚马逊制定的。

此前，亚马逊几次因使用AI等技术监控员工工作效率、检测司机驾驶状态等陷入纷争。除亚马逊外，沃尔玛、富士康等企业也被曝存在类似的情况。人工智能在越来越多的领域帮助决策，却屡屡引发争议。中国人民大学法学院副教授郭锐指出，这背后有一个基本处境——人工智能并没有达到人类的智能，却被人类赋予了决策的权力。

本月早些时候，加州参议院已经批准了这些法案，允许仓库工人对绩效指标提出质疑。许多人反映，这些绩效目标实际阻碍了他们正常上厕所或者休息的时间。此前，曾有报道称一些亚马逊仓库员工为了不耽误时间保住工作，在瓶子里撒尿。过去的几年间，亚马逊也频频因为绩效指标受到外界批评。

尽管该法案没有在文本中明确指出亚马逊的名字，但业界广泛认为，该法案是针对亚马逊仓库高受伤率制定的，而亚马逊仓库一直在用算法强制制定绩效指标。此外，该法案还要求亚马逊等公司将绩效算法透明化，向员工和监管机构披露指标细节。

有分析者认为，法案的生效实施或对亚马逊这家电子商务巨头产生重大影响。民主党众议员洛伦娜·冈萨雷斯在推特上说：“该法案首次尝试建立透明和保护措施，使员工免受企业不安全绩效算法制度的影响。这些绩效制度通常喜欢将员工的身体推到崩溃点。”

同时，也有商业团体已经站出来反对该法案，认为它会损害行业利益，因为它赋予员工提起诉讼的权利，而对公司来说，这可能是昂贵和耗时的。

实际上，这不是亚马逊第一次因使用AI技术而陷入劳资纠纷之中。

就在前不久，亚马逊发言人亚力山德拉·米勒透露，自今年2月至今，亚马逊已为全美超过半数的配送车安装了AI摄像头。他表示，这项技术能为司机提供实时警报，以帮助他们在道路上保持安全。

然而，有媒体随后采访了六名亚马逊配送司机和一家亚马逊配送服务商的老板，他们表示AI摄像头并不是鼓励安全驾驶，而是为了罚款。比如，虽然该款摄像头是为检测跟车太近、发现停车标志、不配合指示灯行驶以及分心驾驶等情况，但司机观看后视镜、调节收音机、在盲人路口的停车标志前驻停或者在交通拥挤时被堵住时，也都可能遭到罚款。

亚马逊在仓库部署AI摄像头追踪员工工作效率，可以追溯至两年前。2019年4月，有媒体曝出，亚马逊通过人工智能来追踪仓储物流系统里员工的工作效率，如果出现员工出现上班后长时间没有进行工作的情况，AI会自动发起警告或者直接解雇。

对此，亚马逊官方曾回应称AI自动化决策只是一种辅助，决定权在上司手中，上司可以驳回系统所做的决定。员工也可以通过申诉要回自己的工作。

除亚马逊外，沃尔玛、富士康等企业也都曾在收银台、生产线等地方部署智能化设备，以监控员工工作效率。然而，人工智能在越来越多的领域帮助决策，却屡屡引发争议。中国人民大学法学院副教授郭锐指出，这背后有一个基本处境——人工智能并没有达到人类的智能，却被人类赋予了决策的权力。

针对人工智能创新带来的伦理问题，如何破题？中国科学技术大学计算机科学与技术学院教授陈小平分析，原因在于当前企业的创新遵从的是商业逻辑，是市场要素的商业化组合，除商业伦理之外，没有其他伦理要求。他提倡，应将目前主流的创新模式升级为公益创新，即在组合市场要素的同时，也融入非市场要素，形成一种公益性的组合。

编译/综合：南都记者马嘉璐

编辑：蒋琳