机器人权利

李奉栖，西南政法大学外语学院副教授，外国语言学及应用语言学专业，硕士生导师。从事翻译教学13年，与人合作翻译出版《什么是艺术》、《解读休闲：身份与交际》等学术著作，并担任译著《新博物馆学手册》一书的审校工作。主要从事翻译学、句法学方面的研究。公开发表学术论文20余篇，主持、主研省部级以上项目6项，主编或参编教材9部。

张云，西南政法大学外语学院教师，从事英汉翻译教学15年，有较为丰富的英汉语翻译理论素养和商务翻译实践经验，译著有《什么是艺术》（第二译者，重庆大学出版社）、《新博物馆学手册》（第一译者，重庆大学出版社），参与《新编外国文学史——外国文学名著批评经典》（梁坤编，中国人民大学出版社）摘文翻译。

郑志峰，江西上饶人，法学博士，西南政法大学民商法学院讲师，人工智能法律研究院自动驾驶法律研究中心主任，兼任重庆市自动驾驶道路测试管理专家委员会执行委员、百度公共政策研究院学术顾问、腾讯研究院兼职研究员。先后主持教育部、司法部、中国法学会等项目十余项，在《光明日报》、《法律科学》、《法学》、《华东政法大学学报》、《现代法学》、《法商研究》等刊物上发表论文二十余篇，其中多篇被《新华文摘》、《人大复印资料》转载，出版译著《机器人也是人：人工智能时代的法律》、专著《第三人侵权行为理论研究》等著作多部。

杨春梅，先后毕业于四川外国语大学、重庆大学外国语学院，获文学硕士学位。曾赴新加坡南洋理工大学国立教育学院进修英语教学法，获研究生文凭。西南大学外国语学院访问学者。现任教于西南政法大学外国语学院，主要从事大学英语教学工作，曾任大学英语教研室主任，大学英语校级（2007）和市级精品课程（2008）主讲教师，获2009年第三届重庆市教学成果二等奖，2014年荣获西南政法大学优秀教师称号。 “十二五”普通高等教育本科国家级规划教材《新思维大学英语阅读教程》第一、二册副主编。

目　录

引言……………………………………………………1

第1 章　不可思议的思考 ……………………… 18

第1 节　机器人………………………… 20

一、科幻小说 ……………… 21

二、不确定的确定 ………… 27

三、移动的目标 …………… 32

四、小结 …………………… 34

第2 节　权利…………………………… 38

一、定义 …………………… 38

二、权利理论 ……………… 44

第3 节　机器人权利抑或不可思议…… 48

一、荒谬的干扰 …………… 49

二、合理地排除 …………… 55

三、形式上的边缘化 ……… 62

四、例外的证明规则 ……… 65

第4 节　结语…………………………… 71

机器人权利

XVI

第2 章　!S1 → !S2 机器人不能拥有权利，故机器人不应当

　　　　拥有权利 ……………………………………………… 77

第1 节　对技术的默认理解………………………… 78

第2 节　工具论的本质含义………………………… 80

一、存在与现象…………………………… 82

二、本体与伦理…………………………… 85

三、有限权利……………………………… 88

第3 节　工具论的实际运用………………………… 90

一、专家观点……………………………… 93

二、机器人是工具………………………… 93

三、是—应推论 ………………………… 95

第4 节　当前和未来的任务………………………… 96

第5 节　挑战、困境与问题…………………………102

一、工具≠机器……………………………102

二、机器人不仅仅是工具…………………105

三、工具论的民族中心主义弊端…………109

第6 节　结语…………………………………………112

第3 章　S1 → S2 机器人能拥有权利，故机器人应当拥有

　　　　权利……………………………………………………114

第1 节　证据和实例…………………………………115

一、哲学观点………………………………116

二、法学观点………………………………127

三、共同特征与优点………………………132

第2 节　挑战、困境与问题…………………………134

目　录

XVII

一、问题的解决被无限期延迟……………134

二、是—应推论面临的难题………………137

第3 节　结语…………………………………………150

第4 章　S1 !S2 机器人能拥有权利，但不应当拥有权利 …… 152

第1 节　论点…………………………………………153

第2 节　挑战、困境与问题…………………………157

一、规范性禁止……………………………158

二、种族中心主义…………………………164

三、奴隶制2.0 ……………………………168

第3 节　结语…………………………………………188

第5 章　!S1 S2 即使机器人不能拥有权利，机器人也应当

　　　　拥有权利 ………………………………………………190

第1 节　论点与证据…………………………………191

一、轶事和故事……………………………191

二、科学研究………………………………194

三、结果与后果……………………………198

第2 节　挑战、困境与问题…………………………203

一、道德情感主义…………………………203

二、表象……………………………………208

三、人类中心主义，或“一切的关键

　　都在于我们” …………………………215

四、关键问题………………………………221

第3 节　结语…………………………………………226

机器人权利

XVIII

第6 章　另类思维 ……………………………………………227

第1 节　列维纳斯101 ………………………………229

一、不同的差异……………………………231

二、社会的和关系的………………………237

三、极端肤浅………………………………240

第2 节　列维纳斯应用哲学…………………………243

一、机器人面孔……………………………244

二、超越权利的伦理………………………249

第3 节　挑战、困境与问题…………………………252

一、人类中心主义…………………………252

二、相对主义和其他困难…………………256

第4 节　结语…………………………………………261

　　前　言
　　无论我们意识到与否，人类正处在“机器人入侵”的时代，因为机器无处不在，几乎无所不能：我们同它们在线聊天，同它们打数码游戏，与它们协同工作，仰仗它们从多方面来管理我们日益复杂的、受数据驱动的生活……因此，“机器人入侵”并非像科幻小说里所写的那样，将来会有一群邪恶的机器人从天而降，肆意掠夺我们；它已然成为正在发生的事实——不同配置和功能的机器人正迈着缓慢而又坚定的步伐入侵我们的世界，攫取它们在这个世界上的一席之地。这与其说像美国科幻电视连续剧《银河战星》中描述的情景，倒不如说像西罗马帝国在日耳曼人的侵略之下轰然倒塌这样真实的历史事实。
　　让我们来看一组数据：自20 世纪70 年代中期以来，工业机器人缓慢却稳步地入侵我们的工作场所，近年来这种渗透的速度似乎有了大幅度的提升。索莱曼（2017，156）最近指出：“国际机器人联合会（International Federation for Robotics，IFR）在2015 年发布的一份关于工业机器人的报告，称2014 年（工业）机器人的使用量增加了29%，仅一年之中工业机器人的最高销售量就达229 261台（IFR 2015）。该联合会估计，在2015—2018 年间，全球将有130 万台左右的工业机器人在工厂与人类并肩工作（IFR 2015）。该联合会将这一显著增长称为‘机器人征服世界’（IFR 2015）。”除了工业机器人，还有“服务机器人”（service robots），它们从事的工作包括“陪伴并照料老人和小孩，在餐馆准备食材、从事烹饪，清扫居民小区，在牧场挤奶”（Cookson 2015）。负责任机器人基金会（Foundation for Responsible Robotics）提供的数据显示，目前全球有1200 万台服务机器人在运行。国际机器人联合会预计，到2018 年，服务机器人的数量将“激增”至3100 万台（Solaiman 2017，156）。
　　此外还有“社交机器人”（social robots），比如日本人开发的医疗机器人帕罗（Paro），麻省理工学院科学家开发的“世界第一款家用机器人”吉波（Jibo），以及其他一些桌面助手，包括亚马逊开发的回声（Echo）、亚莉克莎（Alexa）两款智能音箱，谷歌开发的家庭（Home）牌智能音箱。这类机器人是服务机器人的一个分支，专门为人类交际而设计。预计这类机器人的数量将超过工业机器人和其他服务机器人的数量。韩国等国计划到2020 年实现每个家庭拥有一个机器人（Lovgren 2006）。最后还有一类像物联网（Internet of Things）这样的分布式系统（distributed systems），在这些系统中，许多设备连接在一起通过“协同作战”来实现自动操作，这时发挥作用的就不是通常意义上的“机器人”了，而是由一系列交互式的智能设备组成的网络。据称，因特网上超过50% 的在线活动都是由机器发起并主导的（Zeifman 2017），预计到2020 年物联网上承载的互联互动设备将超过260 亿台，而到那时地球上的人口不过才74亿人（Gartner 2013）。
　　这些机器人在当代社会占据着越来越重要的地位，它们不仅是人类手中的工具，而且其本身也是一种交互式的社会实体。因此，我们需要自问几个有趣却又很棘手的问题：什么时候机器人、算法（algorithm）或其他自动系统可以为它所做的决定或采取的行动负责？什么时候我们可以说“这是机器人的错”？反之，什么时候机器人、智能人工制品（intelligent artifact）或其他可与人类进行社交互动的机器可以拥有某种程度的社会地位、获得某种程度的尊重？换言之，发出“机器人能且应当（can and should）拥有权利吗？”这样的问题，什么时候才不会被视为无稽之谈？
　　关于机器人及其责任问题，人们花了大量的精力加以探讨，“机器人权利”（robot rights）的问题却明显被忽略或者至少被边缘化了。事实上，正如戴维·利维（2005，393）所断言的那样，对大多数人来说，“让机器人拥有权利的观点简直不可思议”（unthinkable）。本书的宗旨一方面在于激发读者对这一所谓“事实”的反思，另一方面抛出作者本人对它所做的深入思考。我将对“机器人权利”这一不可思议的话题展开批判性思考，将其作为一个严肃的哲学话题加以探讨。这么做的目的不是要引发争议——尽管这类哲学探讨往往会导致争议，而是要对由新兴技术带来的一些现实而又紧迫的挑战做出回应，并对道德哲学的现状及其未来趋势进行思考。
　　致　谢
　　我从事“机器人权利”方面的研究颇有时日。在《另类思维——哲学、传播与技术》（Purdue UniversityPress，2007）一书的最后一章我首次正式阐述了机器人权利问题。随后我将这一章的内容拓展为一部著作，题为《机器问题——对人工智能、机器人与伦理学的批判思考》（MIT Press，2012），继而我又撰写了几篇论文，试图回应由该书引发的一些重要问题和批评。这些论文包括《为机器权利辩护》（Gunkel 2014a），《另类问题——机器人权利探讨》（Gunkel 2014b），《并非世界末日——我是如何学会不再担忧并爱上机器的？》（Gunkel 和Cripe 2014），《机器权利——给予护理机器人以关爱》（Gunkel2015），《另一种他者——关于机器伦理的再思考》（Gunkel 2016c）。
　　本书是我研究机器人权利问题的延续和高潮。2016 年10 月，在丹麦的奥胡斯大学举办了一场机器人哲学暨社交机器人跨学科研究大会（Robophilosophy/TRANSOR 2016），主题为“社交机器人能且应当做什么？”这是机器人哲学系列研讨会的第二届会议。我在这次大会的全体会议上做了一场主旨发言，本书的写作形式与内容结构就是这次发言的直接产物。在此我要衷心感谢组织这次会议的约翰娜·赛布特（Johanna Seibt）和马尔科·内斯科（MarcoN?rskov），感谢他们为我们就相关议题展开的讨论和辩论提供了这个独特的场所，正是这些讨论和辩论使本书的写作成为可能。同时我要感谢大会的其他演讲者和参与者，感谢他们为我提供了宝贵的机会，使我能在整个会议期间展开对话，也感谢他们围绕我的演讲所提出的问题和发表的评论，这些问题与评论发人深省。
　　会后，这些问题与评论一直萦绕在我的脑海中，并一路伴随我来到维也纳大学，在这里，我有幸与马克·科克伯格（Mark Coeckelbergh）进行了一场头脑风暴式的讨论。马克过去是，现在是，将来也会是一个“智多星”，我和他之间不断进行着观点上的交锋，他总能给我以启发。正是我与他在维也纳大学的这次互动使我第一次清楚地意识到本书就是我的下一个写作计划。为了回应Mark 提出的富有洞见的挑战，并检验本书将要提出的基本概念，我在回到芝加哥后不久，就把上述会议发言的内容写成了一篇完整的论文。论文题目为《另类问题——机器人能且应当拥有权利吗？》，于2017 年1 月完成，当年秋季发表在《伦理与信息技术》期刊上（Gunkel，2017a），约翰·达纳赫（John Danaher）（2017b）在他的博客“哲学探讨”上对该论文进行了颇有见地的评论。这篇论文可视作本书的缩影。当它还处于杂志社的投稿流程的时候，我就开始构思本书的观点。随后，麻省理工学院出版社的菲利普·劳克林（Philip Laughlin）对我提交的书稿材料给出了评论和建议，为我的写作指引了方向。到目前为止，我已与菲利普就三本书展开了合作。每一次合作，他的学识、他对书稿优缺点的直觉把握、他发掘最佳同行审稿人的能力都无不令我感激。和前面两本书一样，没有菲利普的洞察力和“幕后”的付出与指导，就没有《机器人权利》的问世。
　　本书的手稿是在2017 年春夏期间写就的，感谢北伊利诺伊大学慨允我休学术年假，使我有充分的时间写作。感谢马西·罗斯（Marcy Ross）在艰难的编辑加工过程中所做的努力，使本书终于得以定稿。感谢丹妮尔·沃特森（Danielle Watterson）为本书所做的索引。与以前出版或发表的其他作品一样，没有家人的爱与支持，本书的顺利出版也是不可能实现的，在此感谢我的家人安·埃第尔·贡克尔（Ann Hetzel Gunkel）、斯坦尼斯瓦夫·贡克尔（Stanis?aw Gunkel）以及顿基（Maki）——我们的德国短毛猎犬，正是它让我不得不正视关于“谁或什么能且应当成为他者”的各种问题。