发布时间:2024-11-27 10:44:12 新闻来源:新闻中心
当哲学与一些意想不到的东西碰撞在一起的时候,往往很有“网感”,比如很早之前有一本书,名字就叫做《禅与摩托车维修艺术》,如果不仔细看还以为这本书讲的是摩托车维修,实际上这本书是一名美国哲学家写的正儿八经的哲学著作。
既然哲学能和摩托车维修扯上关系,那么最近一段时间大火的无人驾驶是否也能和哲学产生关系?答案当然是肯定的,不仅如此,无人驾驶和哲学“扭打”在一起,还可能制造出一些和企业家息息相关的话题。
某一天,一台无人驾驶汽车在经过滨海公路转弯路段时突遇“鬼探头”——几个小孩子突然横越车道,现在无人驾驶系统面临两个选择,第一,汽车紧急制动,在保护孩童生命的同时,非常有可能因制动导致车辆失控跌下悬崖,那么车内的乘客就有生命危险;第二,放弃紧急制动以避免车辆失控,冒着孩童死亡的风险保护车内的乘客。如果你是无人驾驶AI,你该怎么样抉择?
上面这个段子各位老友肯定都听过这个段子就是德国伦理委员会在《伦理委员会关于无人驾驶和互联网驾驶的完整报告》中列举的无人驾驶必须要考量的案例。抽象一点说,在L4-L5级别的无人驾驶中,编程者或者AI必须要决定在“两难抉择”之下,应当优先保护哪一个个体,即一定要解决无人驾驶下的“生命安全冲突”问题。
有关生命安全冲突,哲学领域内有个著名的思想实验就叫做“电车难题”,这个思想实验1967年由菲利帕福特首次提出。试想一辆电车行驶在轨道上,有五个人被捆绑在轨道上不能安全逃离。电车如果继续行驶,势必会碾压到这五个人。假如你可以操纵一个拉杆,可以将电车的轨道调整到另外一侧,但是这一侧的轨道上同样绑了一个人。于是两难抉择来了:不拉杆,五个人会血肉模糊死得很惨,拉杆了,只有一个人会死,其他人都会得救。你该如何选择?
在倡导集体主义、舍小我保大我的社会中,人们当然倾向于牺牲一个人里的利益而保障多数人的利益。但问题就在于,生命真的可以只用数量衡量吗?当然,这样一个时间段用数量衡量生命的价值,可能是最没有争议的,因为当我们附加另外的变量,事件又开始尴尬起来。如果轨道另一侧的一个人是伟大的科学家,而另外一边的五个人是对社会毫无用处的闲散人员,此时又该如何正确地处理?当我们考量这样一些问题的时候,实际上就落入了功利主义的窠臼。不得不去进行价值判断,选择损失最小的后果。在这一过程中,对无人驾驶领域的伦理学思考逐渐转向了另外两个哲学理论——旁观者悖论和“安全旁观者”
第三者悖论的关注焦点在于自动驾驶车辆在面临突如其来的危险的时候,应当按照怎样的标准给人员和财物定义价值,以及应当怎么样做风险规避和价值权衡。这其中又引申出了一个悖论:在发生车祸时,是应当优先保障车内人员的安全,还是车外无辜第三人的安全?
这个问题为何会成为悖论,其实很有趣:飒姐团队之前写得文章中已有提及,目前国内以“萝卜快跑”为代表的无人驾驶平台,都会在自己的无人驾驶出行服务协议中都向自己的用户阐明了一个观点:“如您仍选择本平台服务,即视为您已充分知晓、理解并基于自身风险判断能力和承担接受的能力自愿同意承担接受该项服务过程中可能面临的各项风险及后果。”于此同时,以萝卜快跑为代表的无人驾驶平台也会在自己的出行服务协议中列举无人驾驶可能会遇到的各类风险。只要用户同意使用无人驾驶服务,即代表用户自愿同意、承担接受该项服务中可能面临的风险。这种服务协议的措辞并非是国内首创,实际上目前世界上绝大多数的主流无人驾驶服务都会有类似的协议,提醒无人驾驶用户需要注意上述风险,并且提升用户在选择无人驾驶服务时自愿同意、承担无人驾驶带来的风险。
按照这个协议的内容,从逻辑上推断在出现危险的时候,应当首先保证车外无辜第三人的安全,原因很简单——车外的第三人并没有签署无人驾驶的出行服务协议,而车内的成员已经签署了自愿承担危险的协议。因此当无人驾驶汽车出现车祸等危险时,应当首先保障无辜第三人的安全。
这就是第三者悖论所在:如果坚持这套逻辑,那么无人驾驶行业必定走不长远。因为车外的无辜第三人并不是无人驾驶技术的消费者,真正消费的人,是车内的已经签了出行服务协议的人。换言之,车内的自愿承担风险的用户才是无人驾驶平台的“金主”,“金主”出了事,却要优先保护根本就没有给钱的第三人,这样的行业怎会是发展得下去呢?举个最简单的例子,某饭店不给自己的顾客谋福利,反而去保障那些去别的饭店吃东西的顾客,那久而久之谁还去自家的饭店消费呢?
第三者悖论为何会出现,是因为公众往往会站在与事件无关的旁观者的角度去考量各类现实问题,这也是科技哲学中常提及的“安全旁观者悖论”。举个最简单的例子而言,人们总是习惯站在道德的制高点上批判他人,但一旦自己站到了被批判的人的位置上,观点就会立刻改变。这就使得各类有关无人驾驶伦理问题的调查问卷会严重失真。人们站在旁观者的角度,会对无人驾驶伤及无辜第三人嗤之以鼻,但是当把人们放到无人驾驶汽车内,则多数人又会立刻改变想法,希望无人驾驶车辆能保护好自己,哪怕是以伤害路边的无辜第三人为前提。安全旁观者悖论和第三者悖论,果然有趣。
飒姐团队特别赞同部分科技哲学学者对于无人驾驶伦理悖论的看法——纠结于电车难题、第三者悖论其实并没有太大的意义。这些哲学问题的本质其实就是一个——如果出了事,到底谁负责。或者如果出了事,应当如何去评估损失。这其实是典型的“结果思维”。当我们落入到结果思维的窠臼中时,往往无法去进一步进行行业创新。原因很简单,每创新一步都要去想一旦出了事之后未来的代价是什么,久而久之人性就会趋利避害——即宁可什么都不要,也不要出事。
那么如何在最大限度上避免这种“结果思维”,或者尽可能的去推动无人驾驶以及其他创新行业的发展呢?科技哲学中的“负责任创新”概念,也许能帮上忙。负责任创新(Responsible Innovation,RI)这一概念最初由德国学者Hellstrom提出,这个理论可以说是当前欧美和中国科技哲学与科技伦理界讨论的热点,国内外学者关于RI的概念、方法、案例以及框架等都已经有了相当多的研究。
但是飒姐团队在这里必须说明,负责任创新是一个相当宽泛且没有严格内涵界定的概念。如果要系统介绍负责任创新的内容,必定枯燥而且篇幅一定会相当之长。因此飒姐团队只在这里对负责任创新的其中一个核心观点——前瞻性责任进行阐述,并着重和各位老友唠一唠,为什么相较于“出了事找谁去负责”的回顾性责任思维,前瞻性责任思维更加有助于无人驾驶及其他新兴科技领域的发展。
这一对概念其实很好理解。回顾性责任通常针对已发生的行为或者事件(通常引发了不好的结果),然后考量应当由谁去对这一不好的结果负责。对于造成了不好的结果的一方,予以法律或者道德的谴责。就拿我们刚才说的无人驾驶举例。当我们谈及无人驾驶出了事、撞了人谁负责的时候,实际上的意思就是回顾性责任思维的体现。这种思维在社会中非常多见,比如有的领导会跟下属说:这个事情可以创新,可以不走寻常路,但是出了事情,就是你的锅。这就是典型的回顾性责任思维。
前瞻性责任思维与回顾性思维截然不同。前瞻性责任涉及还未发生或者将要发生的行为和事件。往往着眼于如何通过界定标准行为来避免归责。举例而言,国家为无人驾驶技术设立专门的行业规范。如果无人驾驶技术研发者按照平台规定做到了所有应当做的安全步骤,那就是完成了“前瞻性责任的义务”。一旦真的出了事,也不需要再承担或者再完全承担回顾性责任。
如果说回顾性责任关注的是已发生的行为及其结果,来定义个人的道德和法律的可谴责性,即着眼于“结果”,那么回顾性责任就是关注还未发生或者将要发生的行为或事件,并期望通过完成某项规定动作,来产生一个积极的结果。即着眼于“行为”。两者的关系大概能类比于刑法理论中的行为无价值论和结果无价值论。
前瞻性责任思维对科学技术创新很重要,这也就是为什么无人驾驶领域和科技哲学中的负责任创新理论如此契合。
举例而言,无人驾驶、AI、Web3等新兴领域快速崛起不过十年时间,技术尚未成熟,其中必然会出现这样或那样的问题。就好像萝卜快跑的出行协议中说的那样:即使我们尽最大努力保障您与同行人的人身安全及财产安全,基于无人驾驶当前发展阶段的特殊性,我们仍没办法保证绝不会发生不利的风险及后果。为什么无人驾驶服务协议会有那么多的“辣眼睛”的免责条款?原因就在于无人驾驶技术尚不成熟,以后还有非常长的路要走。越不成熟的技术,其风险就越大。网约车平台的服务协议之所以都有中规中矩的免责声明,并不是因为网约车平台运营方的“道德水平”比无人驾驶平台运营方高,而是因为网约车平台的技术、规范均已成熟。出了事有法可依,有据可循。但无人驾驶不同,作为新生事物,每一个技术从最初开展到走向成熟都伴随着无数的事故。飞机的发展不就是这样的吗?
在面对一个尚在发展之中,尚不成熟的产业的时候,通过“出了事就是你的锅”这样的回顾性思维显然不能处理问题。这样一个时间段就体现出“前瞻性责任思维”对行业的必要性了。
前瞻性责任观不去纠结于“出了事”之后的解决方案,而是规范行动者还未发生或者将要发生的行为,以确保产生一系列积极的结果,或者避免消极结果的发生。因此在这个责任观下,怎么样做事前的规范特别的重要。如果行为人已经做足了事前的规范,那么即使出现了不利后果,也不应当归责于行为人。这就是前瞻性责任观可以助力生产力创新的核心所在。
正如同飒姐团队在前面所说的,前瞻性的责任观着眼于对没出事的时候的行为规范。即规范新兴起的产业从业者行为,以避免不利结果发生。如果新兴起的产业的从业者完全按照相应规范从事生产,那么即使出现了不利后果,也不应进行追究。于是行为规范的制定就变得特别的重要。实际上世界各国在无人驾驶领域的密集立法,就体现了这种前瞻性的责任观。
如英国早在2018年无人驾驶刚崭露头角的时候英国便通过了AEV2018(Automated & Electric Vehicles Act2018,无人驾驶汽车法案2018),并且火速修改了The Highway Code(高速公路法),增加了无人驾驶的章节。2022年英格兰和威尔士法律委员会以及苏格兰法律委员会又联合发布了《无人驾驶汽车:联合报告》(Automated Vehicles: Joint Report),其中就包含了如何制定无人驾驶汽车监管改革等建议,今年5月通过英国又迅速通过了新的AEV2024(Automated Vehicles Act 2024,无人驾驶汽车法案2024)。新的自动驾驶汽车法案一共七大部分,内容涵盖对无人驾驶汽车的总体监督管理体系、车辆使用的刑事责任、警务与调查、营销限制、服务许可等等条款。
这部法案最令人注目的条款就是规定了无人驾驶汽车的相关责任承担问题。而这些责任承担问题的相关规定就是前瞻性责任观的典型体现,即只要做到上述行为规范,那么一旦出了意外情况,也可以在一定情形下免责。这些前瞻性责任的规定主要有:
这里我们应该先明确几个概念,ASDE就是授权无人驾驶主体,一般是无人驾驶汽车制造商或开发商。UiC是负责用户,是指在开启UiC功能的无人驾驶汽车中且能够对该车辆实施控制的个人。反之,NUiC用户就是无负责用户,是指在无人驾驶汽车内无人对车辆行驶控制权时,一名持有执照的NUiC运营者远程监管该车辆,并在该车辆遇到超出解决能力的问题时对该车辆发出的警报做出一定的反应的人。
该法案要求ASDE应当始终确保车辆符合无人驾驶测试的要求,并且要求ASDE定期收集和向监管机关提供对应安全信息,并规定ASDE应当指定一名自然人对所提供的信息负责。
如果ASDE未依规定要求向监管部门定期提供安全信息,或者提供的信息在重大方面存在虚假或者误导性,或者隐匿安全信息,则ASDE制定的提供信息的自然人以及直接负责的高级管理人员都将构成刑事犯罪。
同样地,如果NUiC未按照监管部门的要求提交自己监管的无人驾驶车辆的安全信息,或者提交的信息有误、隐瞒有关车辆安全的信息,也会构成相应的刑事犯罪。
当事故发生时,如果ASDE和NUiC均定期向监管部门提供对应的无人驾驶信息,且定期提供的信息真实准确,且无人驾驶系统也通过了相应的测试要求。则ASDE和NUiC不对事故负责。
在具有UiC(如无人驾驶汽车中有安全员)的场景中,在事故发生时,原则上UiC应当承担和司机一样的责任,例外情况如,在危险状态之下使用无人驾驶(危险状态的定义很简单:如果对于一名有经验且谨慎的司机而言,该车辆行驶时所处的环境、路况等可能有危险)时,如果安全员坚持使用无人驾驶,那么一旦导致事故,驾驶员就应当承担刑事责任。
这些情形其实都体现了一个观点:只要能做到监管机关期望你做到的义务,那么即使出了问题,监管机关也不会将“甩锅”的大棒砸向你。这就是负责任创新的核心,也是负责任创新能够助力新科技领域发展的关键。
有一句话飒姐团队非常赞同,科学和哲学是人类的光彩和守护者。新兴科技的健康发展势必要有哲学尤其是科技哲学的规范。负责任创新理论或许可成为破解新科技创业者不敢创新的破局之道。但负责任创新这一理论从一个纯粹的科技哲学理论发展到能够影响科技政策、监管政策甚至思维的程度,还有非常长的路要走。这就涉及到负责任创新理论的法治化问题,即如何将负责任创新纳入到法律和法规等规范体系,作为立法程序上的标准,以及负责任创新作为法律规范的内容,对科技活动应当产生哪些规范等等。这样一些问题如果要仔细论证出来,显然又要有诸多的篇幅,算是飒姐团队填的一个坑吧。
再说回无人驾驶未来走向的哲学思考,毋庸置疑的是,负责任创新尽管已经逐步浸染到无人驾驶领域,但是在自动驾驶汽车发生意外事故时,究竟应当优先保护哪一方,还是一个值得探讨并且是个相当尖锐的科技伦理问题。
一旦发生事故,选择救哪一方?这种选择权该由谁来定义?又是谁赋予定义这种选择权的权利?从目前状态来看,无论哪一种选择都会面临科技伦理的拷问:无人驾驶技术的软件策略是选择伤亡最小为结果还是以保护车主、车上的乘客为结果?飒姐团队记得多年以前法国图卢兹经济学院曾经进行过一番调查,调查显示多数人认为无人驾驶技术的算法应当由政府给出汽车厂商可选择的无人驾驶类型,即消费者可根据自己的习惯来选择无人驾驶类型的汽车。比如我作为消费者,偏向于选择保护我自己,那么我就能够最终靠无人驾驶平台来选择倾向于保障车内乘坐者的汽车为我服务。但在“第三者悖论”和“安全旁观者悖论”之下,很难认定无人驾驶平台的用户能否做出真正符合自己利益的选择,这种选择恐怕理论价值要大于其实际的商业价值。
谈了那么多,其实我们仍旧是需要回到负责任创新能够助力新科技发展的内核来——前瞻性的责任观。飒姐团队在服务新科技领域客户的过程中深刻感受到前瞻性责任观的重要性,新兴的技术最怕的可能就是“秋后算账”和“出了事情就甩锅”,这两件事也成为无数新科技领域创业者的噩梦。实际上无论是出了事甩锅还是秋后算账,本质上都是回顾性责任观的影响。即一旦出了事,就要考虑谁去为负面效果负责,而不是积极的考量如何在事前就做出一套规范,如果创业者能确保自己完成了事前规范的义务,那么即使出了事,也不需要“背锅”,这一套责任观,恐怕才是能够真正助力新科学技术创新的责任观,也是负责任创新这一科技哲学理论助力生产力发展的价值。
今天白天,寒潮影响之下,华北、东北等多地降温明显,今天14时相比昨天同一时次,在辽宁、吉林多地出现了10摄氏度以上降温,像是辽宁抚顺降温17.1摄氏度、沈阳降温15.8摄氏度、长春降温14.2摄氏度,仿佛一夜“封冻”。
昨日晚间,寒潮已经抵达上海,受其影响,从昨天开始48小时内,最高温直接“打四折”,迅速从温暖切换到寒冷。
近日,前中国女子体操队队员吴柳芳因发布多条性感热舞视频,被另一位前中国女子体操队运动员管晨辰留言批评,引起广泛关注。此前报道,吴柳芳视频账号因违反社区规定已被禁止关注。
冬季来临,羽绒服、羽绒被等羽绒制品成为市场上的香饽饽,但一部分“假羽绒制品”却在线上、线下市场肆意泛滥。
宁夏固原一执法人员踢打小学生事件中,被打小学生是否有校园欺凌行为,持续引发网友关切。11月26日下午,当地多个部门向南都记者透露,固原市、原州区两级已成立联合工作组,核实是不是真的存在“校园欺凌”。涉事视频截图。
宁夏固原店主疑因“副所长踢打学生”事件遭网暴:她不是被打学生母亲,已报警
极目新闻记者 舒隆焕11月24日,宁夏固原通报“派出所副所长踢打小学生”事件,打人的副所长王某被撤职。通报后,该事件在舆论场的评论导向迅速扭转,被打学生马某某疑似校园霸凌者,部分网友转变看法,甚至给被撤职的副所长寄送锦旗,表示支持警方的做法,霸凌者就该“被教育”。
2024年11月24日,陕西岚皋县佐龙镇黄兴村发生一起野猪伤人致死事件。今日,岚皋县发布关于野猪伤人致死事件情况说明。说明称,事发后,当地成立联合调查组。
人事改革成为导火索。文|《中国企业家》记者 胡楠楠编辑|米娜头图来源|视觉中国宗馥莉接班后,正大刀阔斧地“去娃哈哈化”?
这虾,我们还能安心享用吗?其实说到虾,市面上我们见到的,大多都是养殖的,市场占比超过80%。2023年我国农业部曾统计,当年水产品总产量7100万吨,而养殖类占到5812万吨,类别涵盖鱼虾蟹、贝壳、藻等各种水产品,占比达到82%。
11月26日下午,华为Mate品牌盛典正式举行,华为常务董事、终端BG董事长余承东在现场宣布,华为Mate70系列正式对外发布。该机型已于11月18日12:08正式开启预订,截止至发稿,华为商城这一系列机型的预约购买人数已达335.7万。