无人车事故中应该牺牲谁?4000万个道德选择展现地区差异

发布: | 发布时间:2018-11-13,星期二 | 阅读:560

原文作者:Amy Maxmen

原文以Self-driving car dilemmas reveal that moral choices are not universal为标题

发布在2018年10月24日《自然》新闻上


调查问卷显示,人们对自动驾驶汽车的伦理标准因文化不同而不同。

当司机面对乱穿马路的行人踩下刹车时,他实际上做了一个道德决策:将风险从行人身上转移到了乘车人身上。自动驾驶汽车可能很快就需要做类似的伦理判断了——但是,根据全球230万人所做的调查问卷,为汽车制定一套普适的道德标准可能会是一个棘手的问题。

多家大型科技公司和汽车制造商都在开发自动驾驶汽车。图片来源:VCG/Getty

近期《自然》杂志发布了至今规模最大的一份关于机器伦理的调查问卷结果,结果显示指导司机的很多道德原则都随国家不同而不同。例如,如果在事故中行人和乘客都有可能死亡,那么来自较富裕、政府制度较强的国家的人就更倾向于不保护违反交规穿越马路的行人。

“当人们想到机器伦理的时候,就觉得可以给机器人造出一套完美的规则,而我们现在用数据证明没有什么普适的规则。”麻省理工学院的计算机科学家、该研究的共同作者Iyad Rahwan说。

这份题为“道德机器”的问卷包含了13种无法避免有人死亡的场景。回答者被要求选择在不同场景中让谁存活:年轻还是年长,富人还是穷人,多数人还是少数人。

人们很少遇到这种纯粹的道德困境。有些批评者质疑问卷中提出的场景和自动驾驶汽车实际会遇到的伦理问题和执行难题到底有多少关系。但是问卷的作者说,这些场景可以代表广大司机每天都会需要做出的敏感的道德决策。他们认为,调查结果显示出了在自动驾驶汽车能被大众接受之前,政府和自动驾驶汽车制造商所必须考虑的文化差异。

至少一家正在研究自动驾驶汽车的企业——德国汽车制造商奥迪——表示调查结果有助于人们就这些问题展开一场重要的讨论。(其它涉及自动驾驶汽车的厂商,包括汽车制造商丰田和科技公司Waymo、Uber,都拒绝评论调查结果。)耶鲁大学的社会科学家Nicholas Christakis则对问卷结果颇感兴趣。

“这是一篇很出色的论文。”Christakis说。伦理观念是全球普适还是因文化而异,一直具有争议,而如何为自动驾驶汽车制定伦理规则这个“二十一世纪的问题”则重新点燃了这个讨论。

未走之路

世界上几家最大的科技公司——包括Google的母公司Alphabet、Uber和Tesla——以及汽车制造商现在都已经有了自动驾驶汽车程序。其中好几家都认为自动驾驶汽车可以提高道路安全性,减少拥堵,提高燃油效率。社会科学家则认为这种汽车会产生伦理问题,并对公共安全和环境产生意外的影响。

2016年,Rahwan的团队遇到了一个有关自动驾驶汽车的伦理难题:在调查问卷中,人们说他们希望自动驾驶的汽车可以保护行人,即使这样做会牺牲乘客的安全——同时他们也说自己不会购买设计成这样的车。

Rahwan很好奇自动驾驶汽车在未来是否会产生其它伦理难题,于是他组织起了一个跨国的心理学家、人类学家和经济学家团队,制造了“道德机器”。18个月之内,这个在线问卷记录下了233个国家和地区的人们所作出的4000万条选择。

无论年龄、性别和所在国家为何,大多数人都会选择拯救人类而非宠物,拯救多数人而非少数人。这些回答和2017年德国自动驾驶伦理委员会的一份报告一致——这可能是至今唯一一份针对自动驾驶的政府指导文件。

但是两者的一致也仅限于此了。作者对作答者超过100人的130个国家进行了分析。他们发现这些国家可以分为三类。

第一类包含了北美和几个历史上主要宗教是基督教的欧洲国家。第二类是包括日本、印度尼西亚和巴基斯坦这种有着强烈的儒家或伊斯兰传统的国家。第三类包含了中非、南非,以及法国和前法属殖民地。第一类国家比第二类国家更倾向于牺牲老人的生命来保护年轻人的生命。

研究者还计算了各国社会经济变量和居民一般意见之间的关联。团队发现,在芬兰和日本等政府制度更为强大的国家里,人们更倾向于撞上违法穿越马路的行人;而在尼日利亚或巴基斯坦这样政府制度比较弱的国家则反之。

是保护道路这边的流浪汉还是道路另一边的总裁的场景同样显示出了意见的分歧。人们所做出的决定与本国的经济不平等性有相关性。在贫富差距较小的芬兰,人们对于保护谁并没有什么偏好。但是在贫富差距非常大的哥伦比亚,作答者选择杀死地位较低的人。

不列颠哥伦比亚大学的心理学家Azim Shariff认为该结论很有趣,因为这意味着这份问卷确实反映出了人们的道德偏好:“如果我们假设收入不平等性较低的国家有着倾向于平等主义的政策,那么这份问卷表明这些政策背后的道德规范确实体现在了人们做出的回答上。”

前方有坑?

虽然自动驾驶汽车尚未公开销售,美国的很多城市里已经有了测试用车在行驶。至少五家制造商希望到2021年自动驾驶汽车和卡车可以得到广泛使用。

南卡罗莱纳大学的法学教授Bryant Walker Smith对道德机器的问卷结果是否实用抱有疑问。他说这份调查并不现实,因为实际生活中很少有情况是需要汽车在两种不同的人中间选一种来撞的。“我还不如担心一下自动驾驶汽车会如何应对陨石呢。”Walker Smith说。

但是问卷的作者说这些场景代表了人类司机经常需要做出的道德判断——而这些判断可能带来致命后果。司机在崎岖山路上避让自行车会增加撞到对向来车的风险。如果道路上无人驾驶的汽车增加了,那么它们遇到这种事故的概率也会增加。

有些汽车公司听进去了。德国奥迪负责自动驾驶汽车伦理的小组负责人Barbara Wege说,这种研究十分有价值。Wege认为,自动驾驶汽车引发事故的比例会低于人类司机——但是和机器人相关的事故会引发更多关注。

道德机器这样的问卷有助于让人们对这种无法避免的事故进行公开讨论,并培养人们的信任。“我们需要对愿意承受的风险达成社会共识。”她说。ⓝ

Nature|doi:10.1038/d41586-018-07135-0


来源:Nature自然科研


 

版权声明

文章编辑: ( 点击名字查看他发布的更多文章 )
文章标题:无人车事故中应该牺牲谁?4000万个道德选择展现地区差异
文章链接:http://www.ccdigs.com/103039.html

分类: IT观察, 多向思维, 新闻视线.
标签: , , ,

发表评论