曾经有一个伦理难题：在一条铁路线上有两条轨道，一条轨道上有一群孩子，另一条轨道上有1个孩子，一辆火车疾驰而来，这样情境下扳道工怎么办，是让火车驶向一群孩子，还是一个孩子？从功利主义角度看，应该牺牲一个孩子，挽救一群孩子，但从价值角度，谁又有权力剥夺一个孩子的生命。

　　这是个难题，但未来要面临类似的，但更为复杂的问题。如下图1所示，一辆自动驾驶汽车急速行驶在路上，面对：1个人、1群人与车主及其他乘客；1个人与车主及其他乘客；1群人与车主及其他乘客。自驾车的人工智能算法应该如何编制决策？

　　自动驾驶汽车的潜能不言而喻，可以提高交通效率，减少污染，消除90%以上的交通事故。2007年自动驾驶汽车第一次进入现实城市环境进行测试，至今已有十年。谷歌的自动驾驶汽车已经在公路上行驶了数千公里，用不了多久自动驾驶汽车就可以投入市场了。虽然在现实中上述情境发生的概率很低，但当有数百万自动驾驶汽车在路上行驶时，这种小概率事件总是有可能发生的。汽车制造商和政府管理者不得不面对这样三个不一致的目标：原则一以贯之，不会引起公愤，不使购车者灰心。因此，如何解决上述伦理问题成为当前亟待解决的重要议题。

　　2016年，来自美国的图卢兹经济学院的Jean-François Bonnefon、俄勒冈大学的Azim Shariff和麻省理工学院的 Iyad Rahwan在《科学》杂志上发表” The social dilemma of autonomous vehicles”一文，通过在亚马逊人端运算平台进行的六个网络在线调查，分析了被访者对上述问题的回答。分析结果表明：在道德上，所有被访者都认为当可以挽救更多人的生命时，自动驾驶汽车的算法应该牺牲其乘客；但是一旦决策涉及被访者自身时，被访者倾向于保护自己及其乘客。

　　研究1：面对1个乘客与10个行人的情境时，约76%的人认为应该牺牲乘客而不是伤及行人（95%的置信区间为69%至82%）。类似的测试如图2（A）所示，途中横轴0表示尽最大努力保护乘客，100表示最大限度减小路上行人伤亡，结果表明多数人倾向于减少行人伤亡，中位数为85。

　　研究2：研究者要求被访者回答愿意牺牲乘客挽救行人的数量，数量从1到100，结果如图2（B）所示。随着挽救行人数量的增加，被访者同意牺牲乘客的比例越来越高，其中仅有1个行人时，认可乘客牺牲的被访者比例仅为23%。

　　研究3：图3（A）显示了如果车中坐的是被访者自己，与同事，与家人三种情境下，被访者认可做出牺牲的分布情况。第一组有效减少牺牲结果与研究2的结果相似，大多数人愿意接受这一算法。在可能伤亡10或20人的情况下，第二组的条件改为最大限度减少行人的伤亡，问被访者是否愿意买自动驾驶汽车，结果表明接受的人比例大大降低。第三组条件改为保护乘客，愿意购买的比例有所上升。也就是说，虽然被访者仍然同意最大化减少乘客和行人的伤亡是最为道德的，但是他们仍然偏好自我保护的利己模式。

　　研究4：提供了另外三种情境，即（1）牺牲1个行人以挽救10个行人，（2）牺牲乘客自己挽救10个行人，及（3）牺牲一个行人挽救另一个行人。分别从伤亡最小化、设想其他人的车和设想自己的车三个角度进行选择。结果如图3（B）所示，第一种情况牺牲1个行人以挽救10个行人，无论在哪种情况认可比例都较高；第三种情况牺牲一个行人挽救另一个行人，在三种角度中差异也不大，选择的比例都很低；第二种情境差异较大，仅是道德上牺牲时，被访者较为认可，但涉及自己的车时，被访者接受的比例就比较低了 。这再一次表明，被访者称颂道德功利主义，要最小化伤亡，自动驾驶汽车在上路时尽量自我牺牲，但事实上没人想为自己买一辆这样的车。

　　显然，这是典型的社会两难困境，道义上希望自动驾驶汽车做出牺牲，但是人们自己购买这种汽车时，自己又不愿意牺牲了。怎么解决呢？通常的解决办法是引入法规进行强制执行，以实现全局最优。

　　研究5：分析被访者对法律上强制执行伤亡最小化的态度。图3（C）分别显示了真人驾驶和人工智能驾驶在挽救1人和10人情境下，被访者对道义举措和法律举措的态度。结果表明，显然人们不太认可从法律上强制执行最小化伤亡的举措。

　　研究6：在要求最小化行人伤亡的情况下，针对单独驾驶、与家人一起，与自己小孩一起三种情境下，分析被访者对道德、法规和购买的态度。图3（D）表明，广义道德上的牺牲方面，被访者较能接受单独驾驶的情况，对于有家人和孩子情况接受比例有所降低。对于法律上强制执行的情况，接受的比例进一步下降；而在强制执行情况下的自己购买接受比例更低。相反，如果法律不强制执行，则接受的比例较高，在50%左右。再次说明，人们很可能反对法律上强制执行最小化伤亡的功利主义效率原则。

　　作者认为，自动驾驶汽车的道德算法导致社会两难，虽然人们往往同意自动驾驶汽车在决策上执行交通过程伤亡最小化的原则，但这些人同时又意图自己在驾驶自动汽车时最大化保护自己。显然，如果在市场上有两种自动驾驶汽车，一种是自我保护的，一种是最小化伤亡的，则很少会有人买后面一种车。

　　这一研究表明自动驾驶汽车法规可能是必需的，但同时又是事与愿违的。一方面，大多数人不同意法律强制执行最小化伤亡原则，另一方面，更为糟糕的是，这类法规可能大大推迟人们接纳自动驾驶汽车，而这意味着整个社会将会因为不接纳自动驾驶汽车而造成更大交通事故死亡人数。因此，汽车制造商和政府都需要考虑如何解决这些问题。

　　从研究者的角度说，如何建构自动机器算法伦理成为今天人工智领域的重要理论挑战，有待研究者做更深入的研究。

　　社论译介作品，欢迎个人转发朋友圈，自媒体、媒体、机构转载请申请授权，联系邮箱，注明“机构名称+转载”。

本文链接：https://jinshalive.com/post/%E6%8D%9F%E5%B7%B1%E8%BF%98%E6%98%AF%E6%8D%9F%E4%BA%BA%EF%BC%9A%E8%87%AA%E5%8A%A8%E9%A9%BE%E9%A9%B6%E6%B1%BD%E8%BD%A6%E7%9A%84%E7%A4%BE%E4%BC%9A%E4%B8%A4%E9%9A%BE%20%E7%A4%BE%E8%AE%BA%E5%89%8D%E6%B2%BF.html
永不失联：金沙娱乐
本文链接：金沙娱乐app
Rss 订阅：金沙娱乐场
联系我们：金沙国际 - 金沙娱乐 - 金沙国际官网