亚马逊的人工智能经理针对加州立法旨在赋予仓库工人权力

一项旨在防止仓储业员工过度工作的加利福尼亚州新法律并未指明具体公司。但该立法的目标很明确：Amazon.comInc赋予机器对工人无与伦比的控制权，并被指控使用该技术对他们提出不合理的要求。

AB 701 由女议员洛雷娜·冈萨雷斯 (Lorena Gonzalez) 撰写，禁止使用妨碍基本工人权利的监控系统，例如休息时间、洗手间休息时间和安全。该立法将有助于确定政府是否可以监管人力资源软件，这些软件有望在决定雇用和解雇谁、工人的工资和工作强度方面发挥越来越大的作用。

“这只是我们监管亚马逊及其算法工作的开始，这些算法将利润置于工人安全之上，”圣地亚哥民主党人冈萨雷斯今年早些时候在推特上写道。该法案于 9 月由加利福尼亚州州长加文·纽瑟姆签署，于 1 月 1 日生效。

监管机构一直在追赶，尤其是在科技行业。计算机科学专家怀疑法律能否有效地规范机器，这些机器最终被认为比人更聪明，甚至能够欺骗它们。设计满足其预期目的的人工智能系统本身仍然是一项壮举。确保它们不会造成意外后果就更难了。

亚马逊已经将许多传统上由人类经理扮演的角色外包给了机器。在巨大的履行中心，软件决定了一个设施可以处理多少物品、每种产品应该去哪里、给定班次需要多少人以及哪辆卡车最适合按时向客户交付订单。算法和摄像头不断监控送货司机，确保他们每班投递一定数量的包裹，正确放置它们并遵守交通法规。

该公司辩称，需要自动化来管理其庞大的运营，并表示该技术主要按预期工作。但没有算法是完美的，即使是亚马逊这种规模的公司的微小误差也会造成持久的附带损害。

在过去的一年里，彭博社对算法管理的一项调查记录了一名零工送货司机被机器错误解雇的经历，一名有抱负的医生在一名受苦受难的亚马逊送货司机闯入他的汽车后瘫痪，仓库工人说他们感觉就像是一次性的齿轮。机器。工人一次又一次地将算法描述为无情的工头。他们描述了一个无情的工作场所，人们通常不会长时间逗留，工伤率高于行业平均水平，员工预计会达到不合理的生产力配额。

未来几年，人们普遍预计公司将采用亚马逊开创的管理自动化的各个方面。机器已经定期筛选工作申请，确定工作时间表，甚至找出哪些员工计划辞职。

到目前为止，亚马逊还没有将其员工监控软件出售给其他公司——一些行业观察人士认为它永远不会。但亚马逊的云部门近年来开始销售旨在自动化现实世界任务的工具，包括一些为其电子商务和物流运营开发的工具。去年，亚马逊网络服务发布了一套产品来监控设备和工厂生产线，补充甚至取代人工。Capital One、Labcorp 和 GE Appliances 等各种公司都使用 Amazon Connect 呼叫中心软件，该软件部署人工智能工具来提高人工代理的工作效率并完全自动化一些客户交互。

算法的日益普及促使人们呼吁立法，迫使公司更加坦率地了解此类软件如何影响人们。去年 12 月，来自特拉华州的民主党参议员 Chris Coons 提出了算法公平法案。这将要求联邦贸易委员会制定规则，以确保算法得到公平使用，并且那些受其决定影响的人被告知并有机会扭转错误。

“人工智能为社会带来了真正的好处，并开辟了令人兴奋的可能性。然而，它也伴随着风险，”库恩斯在公布拟议的立法后说。“公司越来越多地使用算法来决定谁获得工作或晋升、谁进入某所学校或谁获得贷款。如果这些决定是由使用不公平、有偏见或不正确数据的人工智能做出的，就会对人们的生活产生巨大影响。”