机器人已经在杀人了

《当机器人杀人:刑法下的人工智能》加布里埃尔·哈勒维著买书

你懂的。机器人——无论是“智能的”还是“非智能的”——几十年来一直在杀人。更先进的人工智能的发展只会增加机器造成伤害的可能性。自动驾驶汽车已经在美国的街道上行驶，执法部门也在使用机器人“狗”。计算机化系统被赋予了使用工具的能力，使它们能够直接影响物理世界。当更直接的问题就在我们的家门口时，为什么要担心理论上全能的超级智能程序的出现呢?监管必须推动企业走向安全创新和安全创新。我们还没到那一步。

从历史上看，需要发生重大灾难才能刺激监管——这是我们在今天的人工智能范式中理想地预见和避免的灾难类型。1905年格罗弗鞋厂的灾难导致了管理蒸汽锅炉安全操作的法规。当时，一些公司声称，大型蒸汽自动化机器太复杂，无法匆忙制定安全法规。当然，这导致了被忽视的安全漏洞和不断升级的灾难。直到美国机械工程师协会要求风险分析和透明度，这些曾经被认为是神秘的巨大沸水罐的危险才变得容易理解。1911年三角衬衫工厂的火灾导致了对喷水灭火系统和紧急出口的规定。1912年泰坦尼克号本可避免的沉没导致了对救生艇、安全审计和船上无线电的新规定。

也许最好的类比是联邦航空管理局的演变。航空业头几十年的死亡事故迫使监管，这需要法律和技术的新发展。从1926年的《航空商务法》开始，国会认识到，将航空航天技术融入人们的生活和经济需要最严格的审查。如今，每一次空难都要经过严密的调查，从而催生出新的技术和程序。

对工业机器人的任何监管都源于现有的行业监管，而这些监管已经发展了几十年。1970年的《职业安全与健康法》确立了机械的安全标准，而机器人工业协会(现在并入了推进自动化协会)自1974年成立以来，一直在制定和更新特定的机器人安全标准方面发挥着重要作用。这些标准，有一些模糊的名字，比如R15.06和ISO 10218，强调工业机器人固有的安全设计、保护措施和严格的风险评估。

但随着技术的不断变化，政府需要更明确地规范机器人如何以及何时可以在社会中使用。当机器人的行为造成伤害时，法律需要明确谁应该负责，以及法律后果是什么。是的，事故时有发生。但是，航空和工作场所安全的教训表明，如果公开讨论并接受适当的专家审查，事故是可以预防的。

人工智能和机器人公司不希望这种情况发生。例如，据报道，OpenAI一直在努力“淡化”安全法规，降低人工智能的质量要求。根据《时代》杂志的一篇文章，它游说欧盟官员反对将ChatGPT这样的模型归类为“高风险”，因为这将带来“严格的法律要求，包括透明度、可追溯性和人为监督”。据推测，OpenAI不打算将其产品用于高风险用途——这是一个逻辑上的曲解，类似于泰坦尼克号的船主游说说，这艘船不应该被检查是否有救生艇，因为它是一艘“通用”船，也可以在没有冰山的温暖水域航行，人们可以漂浮几天。(当被问及对监管的立场时，OpenAI没有置评;此前，该公司曾表示，“实现我们的使命需要我们努力减轻当前和长期风险”，它正在通过“与政策制定者、研究人员和用户合作”来实现这一目标。)

大公司有一种发展计算机技术的倾向，即自私自利地将自身缺点的负担转嫁给整个社会，或者声称保护社会的安全法规使公司自己付出了不公平的代价，或者安全基线扼杀了创新。我们以前都听说过，我们应该对这种说法持怀疑态度。今天与人工智能相关的机器人死亡事件与过去的机器人事故没有什么不同。那些工业机器人出现了故障，试图提供帮助的人类操作员以意想不到的方式丧生。据官方报告估计，自2016年1月首次因该功能导致死亡以来，特斯拉的自动驾驶仪已导致40多人死亡。故障的特斯拉自动驾驶仪(Autopilot)偏离了宣传的功能，比如误读道路标志，突然转向其他车辆或树木，撞上标记良好的服务车辆，或者无视红灯、停车标志和人行横道。我们担心，人工智能控制的机器人已经超越了以效率为名的意外杀人，而是为了实现不透明和远程控制的目标而“决定”杀人。

当我们走向机器人成为我们生活中不可或缺的一部分的未来时，我们不能忘记安全是创新的关键部分。真正的技术进步来自于跨技术应用全面的安全标准，即使是在最具未来感和最迷人的机器人愿景领域。通过从过去的死亡事故中吸取教训，我们可以加强安全协议，纠正设计缺陷，防止进一步不必要的生命损失。

例如，英国政府已经发布了安全问题的声明。立法者必须进一步回顾历史，更加关注我们现在必须要求的未来:建模威胁，计算潜在的场景，实现技术蓝图，并确保在保护整个社会的参数范围内负责任的工程建设。几十年的经验为我们提供了经验证据，指导我们朝着机器人更安全的未来行动。现在我们需要监管的政治意愿。

当您使用本页上的链接购买一本书时，我们会收到佣金。感谢您对大西洋月刊的支持。