打印纸张 字号选择:超大 行高 带图打印 返回原文

首页 > 哲社时光 社科动态

北京市社会科学院万方助理研究员在《北京师范大学学报(社会科学版)》发表学术文章

2025年07月31日 15:54

北京市社会科学院法治研究所助理研究员万方在期刊《北京师范大学学报(社会科学版)》2025年第3期发表学术文章《人工智能时代自动驾驶的监管挑战与法律回应》。

1

2

3

万方,法学博士,北京市社会科学院法治研究所助理研究员。


人工智能时代自动驾驶的监管挑战与法律回应

摘要:自动驾驶作为人类驾驶行为的技术复现,通过以人类驾驶为蓝本的驾驶算法和控制逻辑,最大限度地克服了人类驾驶的局限性,改变了驾驶形式与驾驶秩序由人类主导的传统格局。自动驾驶通过辅助、复刻及超越人类驾驶行为的技术复现过程,置换了驾驶行为主体,迁移了驾驶行为的核心场景,改变了自动驾驶的监管场域,对既定的监管框架和法律体系构成了根本性挑战。而人类驾驶与自动驾驶的共存及交互又引发了自动驾驶的法律准入、自动驾驶违法行为的法律责任分配以及安全与隐私保护等更为复杂的法律监管难题。因此,有必要将自动驾驶在伦理、秩序和规范层面的前瞻预测与理性预演转换为切实有效的监管框架与法律规范,以适应和促进自动驾驶技术的有序发展。

关键词:自动驾驶;技术复现;监管框架;法律体系

人工智能时代,深度学习与计算机视觉技术的重组创新,使得自动驾驶获得了与人类相似的、通过视觉观察来理解非结构化道路环境的能力,实现了将驾驶行为从简单的直觉反馈转变为复杂的算法控制的技术目标。自动驾驶将驾驶从人类行为转化为机器功能,改变了车辆驾驶行为必须由人类控制、驾驶秩序必须围绕人类构建的传统道路交通格局,从而对既定的监管框架和法律体系构成了根本性挑战。作为人类驾驶行为的技术复现,虽然自动驾驶与人类驾驶在行为外观上同构同向,“人类的在场性——对车辆运行状态的控制——更是构成了自动驾驶被构想、组织、训练与管理的基本要素”,但是,自动驾驶拥有独立的技术逻辑与实现路径,并非简单的人类驾驶行为的衍生或者延伸。与人类驾驶的逻辑不同,自动驾驶置换了车辆驾驶主体,转换了驾驶行为的核心场景,改变了驾驶行为的监管场域,因而涉及驾驶员、乘客、行人、生产制造企业、监管机构等道路交通参与主体的行为标准、法定义务和法律责任以及据此构建的道路交通秩序,将面临体系性重构。然而,当前学界讨论更多的是从自动驾驶与人类驾驶的相似性出发,来确立自动驾驶未来发展的监管依据和法律基础,对于自动驾驶行为主体、核心场景与监管场域迁移引发的系统性变化并未引起足够重视。因此,在自动驾驶即将从想象步入现实之际,应聚焦自动驾驶复现人类驾驶,超越人类驾驶的发展逻辑,构建符合自动驾驶技术逻辑与实践特征的监管政策和法律体系,促进自动驾驶安全有序发展。

一、自动驾驶复现人类驾驶的发展逻辑:从复刻到超越

作为人类驾驶的技术复现,通过与人类驾驶员共享驾驶控制权乃至最终取代人类驾驶员独占驾驶控制权,自动驾驶的终极目标旨在取代人类驾驶员。然而,目前道路交通秩序仍主要以人类驾驶为中心,驾驶车辆、基础设施、交通标志、交通规则主要是基于人类驾驶员的驾驶习惯和驾驶特点设置。并且,更为重要的是,道路交通的技术规则与法律规范也从未设想过通过技术取代人类司机。从自动驾驶的发展逻辑看,道路环境的复杂性与自动驾驶的技术有限性,决定了自动驾驶短时期内无法完全替代人类掌握驾驶控制权。因而,“自动驾驶必须接受人类驾驶为中心的道路格局和人类交通模式的现状,即使要改变,也只能是渐进式的改变”。事实上,无论是国际自动机工程师协会提出的自动驾驶分级标准(SAE国际标准J3016),还是国家市场监督管理总局发布的《汽车驾驶自动化分级》推荐性国家标准(GB/T 40429-2021),均反映了自动驾驶渐进式的发展逻辑,并将自动驾驶划分为L0—L5共六个等级。依据《汽车驾驶自动化分级》推荐性国家标准(GB/T  40429-2021)的规定,L0—L5级自动驾驶主要为:0级驾驶自动化(应急辅助)、1级驾驶自动化(部分驾驶辅助)、2级驾驶自动化(组合驾驶辅助)、3级驾驶自动化(有条件自动驾驶)、4级驾驶自动化(高度自动驾驶)、5级驾驶自动化(完全自动驾驶)。作为一项动态技术,自动驾驶主要是通过学习人类驾驶行为并以人类驾驶行为为模版展开技术复现过程。从L0到L5的等级划分,不仅描摹了不同阶段的自动驾驶形式和人机协作方式,而且复现了自动驾驶将驾驶从人类行为转化为机器功能的技术发展过程。整体而言,从L0到L5的自动驾驶等级和驾驶形式,呈现并预测了自动驾驶从辅助人类驾驶行为到复刻人类驾驶行为,再到超越人类驾驶行为独立实施驾驶行为的技术图景。

(一)自动驾驶的基础形式:辅助人类驾驶

从L0到L5的自动驾驶等级划分,提供了理解自动驾驶不同发展阶段和形式的分析框架与话语工具。在L0到L5的自动驾驶等级中,L0级车辆主要由人类驾驶员完成全部驾驶任务,L1级车辆可以承担特定驾驶任务如车道保持或定速巡航,L2级车辆可以承担两个以上特定驾驶任务如车道保持、定速巡航、距离保持等组合任务,L3级车辆大部分实现了自动化但要求司机能够及时干预接管,L4级车辆在特定路况和环境条件下接管所有驾驶功能,L5级车辆在所有路况和环境条件下接管所有驾驶功能。严格来讲,L0等级是纯粹意义上的人类驾驶形式,而L1和L2等级更多的是传统意义上的辅助驾驶形式,这三个等级的驾驶形式并非真正意义上的自动驾驶。从L0到L2等级的自动驾驶主要是由人类驾驶员参与决策监督并执行驾驶任务,而从L3到L5等级的自动驾驶原则上无需人类驾驶员驾驶,而是由自动驾驶系统依据算法自主驾驶。虽然L0、L1和L2三个等级自动驾驶并非真正意义上的自动驾驶,但是其在自动驾驶技术发展上具有重要的基础价值。在自动驾驶等级中规定L0、L1和L2三个等级自动驾驶形式,一方面可以消除将自动驾驶视为无人驾驶的显性误解,还原自动驾驶是一项动态技术过程,而非理想化期待的完全不需要人类参与和人类干预的无人驾驶;另一方面,L0、L1和L2驾驶形式作为L3到L5等级的自动驾驶行为的基础,为理论与实践构想自动驾驶提供了参考框架和模板。

与L0等级属于纯粹意义上的人类驾驶不同,L1和L2等级自动驾驶形式的进步之处在于,作为辅助驾驶形式,L1和L2等级的辅助驾驶措施,可以将影响安全驾驶的模块化任务部分委托给稳定可靠的自动驾驶,从而克服人类局限性,避免部分人为过失,最终实现提高驾驶安全的目的。驾驶行为作为一项复杂多变的风险性活动,本身充斥着不确定性与未知性。为安全顺利完成驾驶任务,不仅要求适合的驾驶人熟练掌握驾驶动作和驾驶技巧,而且要求驾驶人拥有丰富的驾驶经验和瞬时决策能力,能够在碰撞、避险等紧急时刻及时准确地做出驾驶反应。然而,驾驶行为本质上属于一项高度重复且刻板枯燥的任务,驾驶实践中无法确保驾驶人全程不知疲倦,精力高度集中,时刻保持最佳的精神状态,并在瞬时决策过程中做出适当合理的驾驶反应。事实上,在道路交通中,高达95%的交通事故是由于人类驾驶员的人为过失或不当驾驶行为造成的。因此,如何最大限度避免人为过失,实现安全驾驶目标,成为自动驾驶车辆研发、制造和应用的关键问题。在驾驶实践中,L1和L2等级的辅助驾驶措施如车道保持、定速巡航、距离保持等技术的稳定表现,有效解决了因人为过失或不当操作造成的交通事故。L1和L2等级的自动驾驶形式通过接管影响安全驾驶的模块化任务,不仅提升了人类驾驶安全水平,优化了道路交通秩序,而且强化了人类社会对于自动技术成熟可靠的认识,为L3到L5较高等级的自动驾驶融入人类驾驶,成为道路交通的重要组成部分奠定了坚实的基础。

(二)自动驾驶的进阶形式:复刻人类驾驶行为

从根源上看,自动驾驶源自人类驾驶。作为对人类驾驶行为的技术复现过程,自动驾驶本质上是通过对人类驾驶行为的学习和复刻,逐步形成技术自身的行为逻辑。在行为外观上,人类驾驶与自动驾驶同构同向,两者在行为上具有同源性,均可以独立实施驾驶行为。人类驾驶,主要是由驾驶经验、驾驶决策、驾驶技巧和驾驶动作共同构成。而自动驾驶,主要是通过将人类驾驶行为分解为模块化的驾驶任务并由自动驾驶系统独立操作予以实现。不同之处在于,两者在行为逻辑上存在较大差异:人类驾驶的自主性擅长处理模糊信息,并对棘手的情况做出判断和决策;自动驾驶的机器自主性擅长进行精确分析计算,并执行重复任务和解决常规问题。而“人类实施行为的大部分力量来自于将对现实世界的观测转化为预测和决策的能力,在驾驶过程中,正是由于人类将先前的经验与直觉结合起来,才形成最佳选择的驾驶决策,并最终采取特定的驾驶行动”在驾驶过程中,能否顺利安全实施驾驶行为,关键在于人类驾驶员或自动驾驶是否具备丰富的驾驶经验和出色的驾驶决策能力。相较而言,人类驾驶在驾驶经验与驾驶决策上拥有绝对优势,而自动驾驶既缺乏丰富的驾驶经验,又不具备人类将有限经验推广到广泛场景的决策能力。更为重要的是,L0—L2等级的自动驾驶不仅缺乏通过观察获得驾驶经验的情境感知能力,而且缺乏对情境数据进行分析的驾驶算法和控制算法,因而在面对非结构化的复杂未知道路环境时,无法基于“感知—思考—行动”形成准确的驾驶决策,进而控制和驾驶车辆。

在自动驾驶场域,依据“感知—思考—行动”的行为模型,首先,自动驾驶必须具备感知道路环境的能力。其次,自动驾驶必须拥有对数据进行思考、分析和计算的复杂算法。再次,必须依据驾驶算法所形成的驾驶决策来采取驾驶行动。从这一模型出发,自动驾驶的感知能力构成了后续思考、行动的前提和基础。在人工智能时代,机器学习软件在视觉识别上拥有比拟人类的精准度,其通过观察世界来学习,并依据物体的视觉特征识别物体,形成对周围环境的感知能力,从而对自动驾驶的发展轨迹产生了变革性影响。深度学习和计算机视觉技术的迭代升级与重组创新,使自动驾驶系统获得了与人类相似的读取复杂道路情境的感知能力。同时,基于驾驶算法和控制逻辑的自动驾驶,可以理解、分析和计算其获得的海量数据,并最终形成最优的规划路线和驾驶反应。因此,从本质上看,自动驾驶基于“感知—思考—行动”行为模型形成的驾驶决策、驾驶反应,与人类驾驶通过视觉、直觉与本能形成的驾驶经验和驾驶决策,在行为逻辑上具有高度一致性和同源性。

现阶段构成L3、L4等级自动驾驶决策能力基础的驾驶算法、决策算法和控制逻辑,基本上是通过观察、模仿、学习人类驾驶,复刻人类驾驶的行为逻辑与实现路径,并以人类驾驶为蓝本构建而来。在L3、L4等级的自动驾驶形式中,在具备人类驾驶员接管条件下,自动驾驶车辆可以在特定条件和区域驾驶。由此,自动驾驶从辅助人类驾驶升级为部分接管人类驾驶,驾驶的自主性逐渐由人类自主性过渡为自动驾驶自主性。然而,L3、L4等级自动驾驶与人类驾驶员在紧急情况下的接管要求,则凸显了现阶段的自动驾驶并不具备完全的驾驶自主性。人类的在场性,尤其是人类参与、人类行为及人类责任再次构成了自动驾驶的核心内容和关键变量。作为人类驾驶自主性向自动驾驶自主性过渡的阶段,L3、L4等级自动驾驶将继续延循“复刻人类驾驶行为构建自身驾驶逻辑”的路径,而这一趋势将会持续到L5等级自动驾驶全面融入道路交通才会发生改变。

(三)自动驾驶的高级形式:超越人类驾驶

承前所述,虽然自动驾驶源自人类驾驶,但是其目标旨在超越人类驾驶、取代人类驾驶。从这个角度来看,L5等级的自动驾驶才是真正意义上的自动驾驶,其在无需人类干预的情况下,独立执行驾驶任务。因此,L5等级的自动驾驶作为完全自动驾驶或无人驾驶,是无人驾驶想象场景的具象呈现。理论上,作为自动驾驶的高级形式,无人驾驶在感知、思考和行动等环节将会超越人类驾驶,自主决策,独立驾驶。

首先,无人驾驶的感知识别能力将超越人类驾驶。L5等级的自动驾驶与L3、L4等级自动驾驶的最大差异在于其在无人状态下自主决策,独立驾驶。为保障安全顺利完成驾驶任务,L5等级的自动驾驶不仅会加速深度学习、计算机视觉及相关技术的迭代升级,而且会改善照相机、激光雷达、声呐、全球定位系统等各类传感器的稳定性与精确性。在360度全景覆盖的传感器软件与硬件支持下,L5等级的自动驾驶将具有全景视野,进而实现对于道路环境厘米级的感知和识别。与此同时,L5等级的自动驾驶与各种驾驶形式车辆及交通基础设施的交互,将会比人类通过视觉观察获取更快速、更全面和更精确的道路信息与道路数据,从而帮助自动驾驶快速准确地做出正确合理的驾驶反应。

其次,无人驾驶的学习能力将超越人类驾驶。在人类驾驶过程中,人类驾驶员主要依赖对不同驾驶场景的观察形成对更广泛驾驶场景的驾驶经验和驾驶决策,而这种驾驶经验和驾驶决策具有强烈的个人色彩,很难分享给其他人类驾驶员。与之不同,无人驾驶的蜂巢思维不仅可以将无人驾驶系统学习到的驾驶经验分享复制给其他无人驾驶系统进一步学习,而且可以通过吸收彼此过去的行驶数据库进行学习,从而使无人驾驶系统组队学习以幂次方效率快速学习。在组队学习模式下,无人驾驶系统会将驾驶经验数据进行汇总共享,其他无人驾驶系统可以快速从共享数据中学习驾驶经验。基于组队学习模式,无人驾驶系统在未来将会积累更为丰富的驾驶经验,从而超越数以千计甚至更多人类驾驶员共同掌握的驾驶经验。同时,无人驾驶根据超越人类驾驶员的更为丰富的驾驶经验,将会做出更加正确合理的驾驶决策。

再次,无人驾驶的决策能力将超越人类驾驶。一方面,在组队学习模式支持下,无人驾驶的驾驶经验将远超人类驾驶掌握的驾驶经验。由此,无人驾驶基于丰富驾驶经验形成的驾驶决策将明显优于人类驾驶的驾驶决策。另一方面,在不可避免的碰撞场景下,人类驾驶的驾驶决策完全由人类驾驶员瞬时做出决策。而人类驾驶员在紧急状况下做出的瞬时驾驶决策和驾驶选择,不能完全排除个人本能、直觉以及情绪的影响,无法确保做出最佳选择。与之不同,无人驾驶状态下,如何应对不可避免碰撞的驾驶决策将完全交由无人驾驶系统。值得注意的是,无人驾驶的驾驶决策并非瞬时决策,而是源自提前设置好的碰撞算法。同时,无人驾驶的驾驶决策场景由驾驶环节前移至研发、设计以及生产环节,与人类驾驶员个人的瞬时决策不同,研发、设计以及生产环节的决策往往由更多的理性人共同设置最优选择的碰撞算法。

二、自动驾驶的监管挑战:准入、安全与隐私

自动驾驶,通过将驾驶从人类行为转化为机器功能,重构了车辆驾驶的技术逻辑与实现路径,不仅彻底改变传统上以人类为中心的道路交通格局与车辆驾驶秩序,而且在车辆准入、交通安全与隐私保护等维度,对既定的监管框架和法律体系构成了全新挑战。在人类驾驶场域,监管框架与法律体系通过对控制车辆的人类驾驶员设定法律义务来保证道路交通安全。而在自动驾驶场域,不仅道路交通的监管对象由人类驾驶员切换为自动驾驶系统,而且维护道路交通安全的法律义务与责任也随着自动驾驶等级和形式的变化,由人类驾驶员向自动驾驶系统转移。与此同时,自动驾驶移动传感器与数据记录器的工具属性,更引发了人类驾驶未曾遭遇的数据安全与隐私保护问题,进一步增加了自动驾驶监管的复杂性。

(一)自动驾驶的准入障碍

作为驾驶行为的核心,人类驾驶员及其对车辆的控制构成了传统上车辆驾驶与道路交通的监管基础。自动驾驶的出现,意味着车辆驾驶主体将由人类驾驶员转为自动驾驶系统,车辆驾驶权限由人类转交自动驾驶系统,从而在根本上颠覆了道路交通与车辆驾驶的秩序和格局。事实上,在人类驾驶场域,人类驾驶员及其对车辆的控制贯穿了道路交通与车辆驾驶监管的始终。作为全球道路交通秩序与格局的共识性基础,联合国关于道路交通安全的两份公约文件——《日内瓦道路交通公约》和《维也纳道路交通公约》均是基于人类驾驶员及其对车辆的控制这一基础构建的。其中,1968年《维也纳道路交通公约》取代了1949年《日内瓦道路交通公约》,对人类驾驶员及其对车辆控制进行了系统规定。对于驾驶员的定义,《维也纳道路交通公约》第1条明确规定,驾驶员是指驾驶机动车或其他车辆的任何人。同时,《维也纳道路交通公约》第8.1条规定,每一辆车或者组合式车辆都应配备一个驾驶员。此外,《维也纳道路交通公约》第8.3条规定每一个驾驶员都应具备必要的身体素质与心智能力,并处于适合驾驶的身心状态。总体而言,1968年《维也纳道路交通公约》关于驾驶员及其对车辆控制的规定,构成了各国道路交通监管框架的基础,对道路安全格局与车辆驾驶秩序产生了深远影响。

与之类似,我国《道路安全交通法》确立的道路安全格局与车辆驾驶秩序也主要是围绕驾驶员及其对车辆控制的规定展开建构。首先,《道路安全交通法》第8条规定了机动车道路行驶的登记准入制度。其次,《道路安全交通法》第19条规定,驾驶机动车,应当依法取得机动车驾驶证。再次,《道路安全交通法》第19条、20条、21条、22条为确保驾驶员对车辆驾驶的控制,明确规定驾驶员应经培训、考核,依法申领机动车驾驶证,同时在驾驶过程中应确保驾驶员身心状态符合驾驶要求并严格遵守法律法规。最后,《道路安全交通法》第119条对机动车的内涵和外延进行了明确规定,将机动车的范围限定在了传统机械驾驶车辆的类别,并未将自动驾驶系统或自动驾驶车辆纳入《道路安全交通法》规定的机动车范畴。虽然2022年6月深圳市颁布的地方性法规《深圳经济特区智能网联汽车管理条例》以及2024年12月北京市通过的地方性法规《北京市自动驾驶条例》,通过地方性法规形式明确规定了自动驾驶汽车可以在特定场景和区域内开展道路测试和应用,但是并未突破上位法《道路安全交通法》关于驾驶人及其对车辆控制的立法规定,对于自动驾驶能否在开放道路和场景上路行驶的权限、资格问题选择了保留态度。由此,《道路安全交通法》关于驾驶人及其对车辆控制的规定,构成了这一阶段L3及以上等级自动驾驶车辆道路行驶与全面推广的形式障碍。

(二)自动驾驶的安全风险

在自动驾驶场域,通过以人类驾驶为蓝本的驾驶算法和控制逻辑,以及无条件遵守驾驶算法中反映的监管要求和法律规范,L3及以上等级自动驾驶最大限度地克服了人类驾驶的局限性,避免了人类驾驶的人为过失或不当驾驶,从而在本质上比人类驾驶更加安全。然而,自动驾驶相较于人类驾驶更加安全的理论预设,不仅忽略了技术的局限性与技术漏洞所可能引发的安全风险,而且遮蔽了接管操作与网络技术在维护自动驾驶安全的同时可能带来的新的安全隐患。

其一,自动驾驶技术的局限性与技术缺陷可能引发新的安全风险。自动驾驶作为复现人类驾驶的动态技术过程,技术稳定性与可靠性决定了自动驾驶能否顺利、安全完成驾驶任务。值得注意的是,现阶段部分自动驾驶的技术水平尚未能完全满足L3及以上等级自动驾驶的技术目标。相反,自动驾驶部分技术的不足与缺陷,可能导致自动驾驶在现实中面临大规模的道路安全风险。事实上,当前的自动驾驶软件系统的设计存在严重的设计安全漏洞或算法黑箱,刻意忽略了某些对人身财产安全具有重要影响的要素,导致部分自动驾驶无法有效识别驾驶环境中的风险。作为自动驾驶技术发展成熟的代表,特斯拉Autopilot主要依赖人工智能与视觉神经网络技术的融合,实现对道路环境感知并广泛应用于驾驶实践。然而,现阶段视觉神经网络算法在技术层面尚未取得全面突破,特斯拉Autopilot无法在复杂的道路环境下,实现对安全制动距离内可能影响驾驶安全的静态障碍和动态障碍的精准识别和感知。因而,特斯拉Autopilot目标识别缺陷问题迟迟没有得到改进和解决,导致特斯拉已成为至今全球造成交通事故次数最多的自动驾驶汽车品牌。

此外,在自动驾驶场域,绝大多数交通事故都属于可避免型碰撞。自动驾驶与人类驾驶最大的不同在于,两者在不可避免碰撞情景下的反应截然不同。面对不可避免的碰撞情景,人类驾驶更多依赖人类驾驶员的驾驶经验、驾驶技巧与瞬时决策做出本能驾驶反应。而自动驾驶,则是依据在设计阶段提前设置的碰撞算法做出驾驶决策完成驾驶行为。现阶段自动驾驶的驾驶决策决定不需要瞬时做出,而是依靠生产制造主体在研发设计阶段通过理性思考,预先设定如何避免自动驾驶发生碰撞的控制逻辑与碰撞算法。由此,对于自动驾驶进行安全监管的场域也由事后的场景前置于事前研发设计阶段。而实践中,关于自动驾驶的碰撞算法的设计以及碰撞算法的优化,还停留在研发设计程序员的思维预演层面,并未进入道路实测阶段。因此,对于自动驾驶碰撞算法应进行全面的伦理审查、法律审核以及技术检测,以确保自动驾驶碰撞算法符合伤害最小化原则,避免因碰撞算法的缺陷而导致自动驾驶发生大规模道路交通安全风险。

其二,紧急状况下人类驾驶员的接管操作,在维护驾驶安全的同时,可能会构成新的安全隐患。事实上,现阶段自动驾驶仍无法做到在不需要人为干预的情况下就可以安全执行所有驾驶任务。因此,基于驾驶安全的政策考量,相关的监管规定和政策文件均要求L3和L4等级自动驾驶车辆必须配备适合的人类驾驶员,在自动驾驶系统发生无法执行驾驶任务的紧急状况时,自动驾驶系统可以将驾驶控制权交还给人类驾驶员并由人类驾驶员进行接管操作。表面上看,人类驾驶员的接管操作可以增强和保证驾驶安全,而实质上,在人类驾驶员接管操作的及时性及有效性无法得到保证的情况下,紧急转移驾驶控制权的接管操作可能引发更严重的安全风险。在L3和L4等级自动驾驶场景下,自动驾驶系统全程主导驾驶过程,而人类驾驶员仅仅作为辅助角色在紧急和非常规情形下接管操作。然而,这种制度设计不仅无法确保人类驾驶员可以长时间监测车辆驾驶情况,并保持足够警觉、能够注意到自动驾驶异常情形,而且不能保证人类驾驶员具有充足的反应时间,可以快速及时回到驾驶位置接管车辆驾驶。更重要的是,人类驾驶员对车辆的驾驶控制既要求驾驶员拥有丰富的驾驶经验和瞬时决策能力,又要求驾驶员熟练掌握驾驶技巧和驾驶动作。在自动驾驶场域,人类驾驶员的驾驶技能往往无法得到锻炼和提升的机会。因此,在紧急和非常规情形下,人类驾驶员可能会无法胜任接管操作的驾驶任务,从而导致自动驾驶汽车在紧急情形下脱离自动驾驶系统和人类驾驶员控制的责任分散情形,继而威胁道路交通安全。

其三,保障驾驶安全的网络接口与网络技术,可能会异化为网络攻击对象,威胁道路交通安全和公共安全。自动驾驶较人类驾驶更安全的技术基础就在于,自动驾驶的道路环境感知能力以及驾驶决策能力远远超过人类驾驶。而自动驾驶强大的道路环境感知能力和驾驶决策能力均依赖于丰富的网络接口与网络技术,其收集了海量的道路交通数据、外部环境数据以及人类与驾驶车辆交互数据,并据之进行驾驶分析和驾驶决策。然而,自动驾驶配备的大量传感器、车载接口以及多种无线通信协议在为收集实时驾驶数据提供便利的同时,也为潜在的网络安全攻击者提供了丰富的入口和路径,潜在攻击者往往通过这些丰富的入口对自动驾驶汽车实施各种攻击。与此同时,自动驾驶相较于人类驾驶的网络技术优势,使得自动驾驶在本质上更容易遭受黑客的网络攻击。如果自动驾驶遭遇网络恶意攻击,将会出现自动驾驶的驾驶系统被篡改、劫持和控制的情形,从而导致自动驾驶脱离驾驶系统和人类驾驶员的掌控,甚至出现将自动驾驶变为实施犯罪的工具和进行恐怖袭击的武器。相较于人类驾驶的传统网络安全风险,自动驾驶面临的网络安全风险不仅来源主体更加多元化,而且面临的攻击方式更加多样化,同时危害范围和危害结果呈现全方位和多层次的特征,可能造成不同层次的人员伤亡和财产损害。

(三)自动驾驶的隐私保护风险

在人类驾驶场域,车辆往往被视为人类自我的延伸,同时车辆内部空间是个人生活空间与隐私空间的重要组成部分。在车辆内部,人类驾驶员与乘客享有充分自由,可以完全依据个人意愿自由活动而不受干涉和打扰。然而,自动驾驶的出现,彻底改变了车辆作为隐私保护者的角色定位,自动驾驶车辆或系统从隐私保护壁垒异化为隐私保护的对立面。

首先,自动驾驶对道路环境的动态监控过度侵入个人隐私空间。为实现对道路环境的实时感知,作为移动传感器与数据记录器的集成,自动驾驶被鼓励和要求全方位、全时态监控人类与车辆的实时动态,全面收集车辆外部道路环境数据、车辆内部行为活动数据以及外部道路车辆和行人的活动数据。随着数据收集范围和收集权限的扩大,不仅车辆外部的道路环境、行人和车辆以及彼此之间交互的动态数据,而且车辆内部空间驾驶员、乘客的言行也被自动驾驶车辆或系统无差别收集、存储。自动驾驶的动态监控侵入了传统上被视为隐私空间的车辆内部空间,侵犯了个人免受干涉、打扰、窥探和监视的隐私权利。

其次,自动驾驶对道路数据的过度收集严重侵扰个人隐私权利。为实现自动驾驶所需要的海量数据,自动驾驶车辆或系统的传感器和软件需要收集大量的道路环境、车辆、个人及其交互对象的各种数据。为保证最大限度收集自动驾驶及其交互对象的各类实时数据,在收集过程中并没有严格限制数据收集的范围、类型。在数据收集过程中,最显著的表现就是自动驾驶车辆或系统对数据的过度收集,比如,在数据收集过程中未对数据主体进行充分告知并获得其同意,过度收集了超出完成自动驾驶所必需的范围的数据,或者更有甚者,对收集的数据进行不合理的滥用或不合法交易,从而严重侵扰个人隐私权利。

再次,自动驾驶对个人数据的过度使用严重损害个人隐私利益。理论上,对于个人信息和数据的使用要求遵循最小化处理原则。依据个人信息处理的最小化原则,处理个人信息应当具有合理的目的并限于实现处理目的的最小范围。实践中,自动驾驶及其背后的企业不仅存在过度收集个人数据的倾向,而且存在对收集的数据过度使用的严重问题。相关企业通过对收集、储存的数据进行深度分析,同时依据个人行为习惯的差异,将归属于个人的数据信息聚合,可以实现对特定个人进行准确的身份识别和个人画像。值得注意的是,对于特定个人的身份识别和个人画像,不仅损害了个人的数据自决权,而且违背了对于信息数据处理的最小化原则。与此同时,相关企业经由身份识别和个人画像对个人进行的个性化推荐和精准杀熟等行为,将全面侵害个人隐私权利,继而对个人的其他合法权益造成严重侵害。

三、自动驾驶的法律回应:从准入到责任再到规范

作为一项动态发展的变革性技术,自动驾驶不可能一蹴而就全面替代人类驾驶。虽然自动驾驶通过主体置换,表面上转换了驾驶控制决策形成的核心场景,改变了监管主体与监管对象,但是自动驾驶场景并没有完全排除驾驶行为的人类在场性,人类参与、人类行为与人类责任并没有彻底消失,而是从直接控制转变为间接控制。自动驾驶与人类驾驶长期共存的趋势,决定了自动驾驶必须接受以人类为中心的既定监管框架与法律体系。因而对于自动驾驶与人类驾驶共同面临的法律问题,原则上应由现有的监管框架和法律规范体系予以解决。对于自动驾驶带来的全新法律问题——自动驾驶的法律准入,不可避免碰撞算法、驾驶员接管操作引发的责任主体和责任形式变化,以及隐私保护技术与法律冲突等新旧交织的问题,应在法律主体置换、监管场域迁移和法律责任形式变化中赋予其新的法律内涵。因此,为适应自动驾驶的技术发展,现行法律规范体系应及时调整,重点聚焦自动驾驶从资格准入到责任形式变化、再到法律体系构建的关键问题,全面引导自动驾驶合法、安全、有序发展。

(一)构建应用准入与产品准入相结合的自动驾驶法律准入规则

自动驾驶的法律准入,原则上是L3及以上等级自动驾驶测试、应用和商业推广的前提与基础。整体上,国内面向个体消费者的L3等高级别自动驾驶市场还处于关闭状态,技术潜力不能转化为现实生产力,从而也就不能对经济增长产生实际作用。自动驾驶汽车的商品属性决定了其既要满足《道路安全交通法》的规定,符合道路应用准入的要求,又要满足自动驾驶的车辆产品准入要求。从目前的法律法规及技术标准来看,无论是应用准入还是产品准入层面,均没有将自动驾驶车辆纳入准入范畴。为推动自动驾驶的法律准入,有必要将自动驾驶车辆纳入应用准入与产品准入范围,确保自动驾驶依法进行道路应用和商业推广。

其一,修改《道路交通安全法》规定的机动车概念,明确将L3及以上等级自动驾驶车辆规定为机动车车辆类型,全面确立自动驾驶登记准入的管理制度。如前所述,我国现行《道路交通安全法》对机动车实行登记准入制度。依据规定,对自动驾驶车辆进行登记准入的前提是,自动驾驶车辆属于法定的机动车类型之一。而现行《道路交通安全法》第119条以及2021年《道路交通安全法(修订建议稿)》第155条均没有明确将L3及以上等级自动驾驶车辆纳入机动车的范畴。

与此同时,2022年6月深圳市公布的《深圳经济特区智能网联汽车管理条例》的第3条,明确将L3—L5等级的自动驾驶车辆规定为智能网联汽车类型,同时在第27条和第28条规定了智能网联汽车登记制度。与之类似,2024年12月北京市通过的《北京市自动驾驶汽车条例》的第2条,将L3—L5等级的自动驾驶车辆规定为自动驾驶汽车,同时在第5条规定由经信部门组织落实国家自动驾驶的产品准入要求,并由公安机关交通管理部门负责自动驾驶汽车车辆登记、号牌发放等工作。从规定的内容来看,在上位法《道路交通安全法》没有规定和修改的情况下,无论是深圳还是北京的地方性法规均没有对登记准入的具体要求进行立法规定。因此,应在《道路交通安全法》的法律修改过程中,明确将L3及以上等级自动驾驶车辆规定为机动车车辆类型,同时全面规定自动驾驶登记准入的具体条件和要求,为自动驾驶准入提供明确的法律标准。

其二,协调修改《道路交通安全法》及相关法律法规,统一将L3及以上等级自动驾驶车辆纳入机动车产品分类准入管理范畴,建立健全自动驾驶产品准入的国家标准。我国对于汽车的产品准入,实行企业和产品分类准入管理制度,对于符合条件的企业经申请、审查取得相关准入后方可生产、销售相应的车辆产品。2023年11月,工信部等四部委发布《智能网联汽车准入和上路通行试点实施指南》对自动驾驶车辆的产品准入进行了详细规定。然而,值得注意的是,作为上位法《道路交通安全法》并未将自动驾驶车辆规定为机动车车辆,同时,《道路车辆生产企业及产品准入管理办法》也未将自动驾驶车辆纳入法定的六类道路机动车车辆分类准入的产品类型。因此,应协调修改相关法律规定将自动驾驶车辆纳入机动车产品分类准入管理范畴。与此同时,鉴于自动驾驶属于国家制定强制性标准的事项,应建立健全自动驾驶产品准入的国家标准,指导相关机构、企业建立行业标准和地方标准,推进自动驾驶车辆产品准入工作有序开展。

(二)确立以严格责任为主的自动驾驶法律责任原则

人类驾驶场域,交通事故往往是由人类驾驶员的人为过失或不当操作造成。因而人类驾驶场域因交通事故引发的民事侵权与刑事犯罪,主要基于过错责任原则来确定驾驶员、行人等主体的法律责任。而自动驾驶场域,通过最大限度降低人为过失与不当驾驶行为,大大降低了道路交通事故的发生概率,从而改变了人类驾驶场域依据过错责任确定驾驶人法律责任的传统范式。与此同时,在自动驾驶场域,通过与人类驾驶员共享驾驶控制权乃至独占驾驶控制权,车辆驾驶的法律责任主体也由单一的人类驾驶员过渡到了自动驾驶的研发设计商与生产制造商。考虑到生产制造商在碰撞算法与技术故障上引发的安全与隐私风险,可能造成大规模的交通事故,严重危害道路交通安全,“应采用严格责任替代过错责任,并将之确立为主流法律责任原则,以应对自动驾驶所造成的所有损害”。实质上,受自动驾驶的算法黑箱影响,在大多数交通事故与交通致害案件中,都无法准确认定过错与结果之间的因果关系,普遍适用过错责任解决自动驾驶的法律责任,可能导致出现无人承担法律责任的“责任空档”现象。

面对不可避免的碰撞场景,人类驾驶的驾驶决策主要是由驾驶员根据直觉和过往驾驶经验做出本能反应。而自动驾驶的驾驶决策则是,基于自动驾驶车辆在研发设计及生产制造阶段由研发人员提前设置的控制算法和碰撞算法所做出的。在不可避免的碰撞场景中,自动驾驶车辆参与的交通事故责任,则要根据是否有人参与介入驾驶决策并实施驾驶行为而区别看待。在L5等级完全自动驾驶形式下,自动驾驶造成的伤害和事故,原则上应基于严格责任原则追究生产制造商的法律责任。这是因为,在L5等级完全自动驾驶形式下,驾驶行为主要是基于自动驾驶的控制算法和碰撞算法完成驾驶任务。值得注意的是,自动驾驶的碰撞算法在设计阶段承载了社会对于技术稳定和驾驶安全的伦理期待。自动驾驶的控制算法和碰撞算法是研发人员在事前清醒理性的状态下提前设置的,在正式应用前经过伦理审查和安全评估符合要求后,才可以广泛应用于所有的自动驾驶车辆或系统。对于自动驾驶因碰撞算法设计造成的交通损害和交通事故,应适用严格责任追究生产制造商的民事或刑事责任。与之类似,在自动驾驶场域,因技术缺陷引发的网络安全与隐私保护问题,属于研发设计与生产制造环节的产品缺陷,原则上产品存在缺陷的生产制造商应当对产品缺陷问题承担严格责任。并且,“自动驾驶的技术原理和最新进展尚未被大众普遍理解、其安全水平并未经过有效地检验,而自动驾驶在安全、经济收益和发展前景上被不切实际地夸大并广泛宣传,有必要对其施加严格责任以促使所有利益相关方采取更负责任的行为保护消费者安全”。

事实上,对于L3和L4等级自动驾驶因接管操作造成的交通事故,如何合理划定和分配人类驾驶员与自动驾驶车辆的法律责任,始终困扰着自动驾驶的行业发展和政策监管。尽管自动驾驶的技术分级规定了紧急状况下接管操作的L3和L4等级自动驾驶,但实质上强制要求紧急状况下的接管操作并非自动驾驶技术发展达成明确共识的领域。在自动驾驶的行业发展与远景规划上,基于对人类驾驶员接管操作合法性与可能性的质疑,谷歌公司坚持认为自动驾驶应跨越L3和L4等级的自动驾驶发展阶段。然而,基于审慎务实的态度,对于L3和L4等级自动驾驶因接管操作引发的法律责任,应从发出接管操作请求的自动驾驶车辆与接受接管操作请求并实施接管操作的驾驶员两方分别确立法律责任。L3和L4等级自动驾驶发出接管操作请求的原因主要在于,由于算法、技术和硬件的缺陷、故障,自动驾驶车辆无法掌控驾驶控制权安全执行驾驶任务,因而应适用严格责任追究自动驾驶车辆生产制造商的民事或刑事责任。而对于接受接管操作请求并实施接管操作的驾驶员,考虑到对于驾驶员设置监测驾驶的注意义务和驾驶接管的作为义务,将会给驾驶员施加过重的责任和负担,从而不利于自动驾驶的商业推广和应用,因此,对于驾驶员实施接管操作引发的责任问题,应适用过失责任追究驾驶员的民事或刑事责任。

(三)建立健全自动驾驶的规范框架与规范体系

人工智能时代,自动驾驶深度介入人类生活,重塑道路交通格局和城市规划面貌,对以往规范人类行为的相关法律领域构成了根本性挑战。为适应并促进自动驾驶技术的发展,美国、德国、日本、英国等国纷纷围绕自动驾驶展开立法工作。大体而言,各国对自动驾驶的立法思路主要分为单一立法和综合立法两种形式。前者如美国,其围绕自动驾驶制定《自动驾驶法》的单一立法形式,后者则以日本为代表,通过修订《道路交通法》及相关法律法规实现对自动驾驶的综合立法形式。事实上,为解决自动驾驶应用测试和上路行驶的法律准入障碍,我国的深圳市、上海市浦东新区和北京市先后围绕自动驾驶制定了单一立法形式的地方性法规,以推进自动驾驶的应用发展。然而,由于深圳市和北京市自动驾驶的地方性法规效力等级较低,在上位法未修改的前提下,对于自动驾驶准入和应用的诸多关键规则内容无权做出立法规定,只能等待《道路交通安全法》等相关上位法修改完善后才可以参照适用。因而在上位法保持现状的情形下,深圳市和北京市当前的自动驾驶法规“不仅难以从根本上解决现阶段自动驾驶与现行法律之间的冲突,而且无法为自动驾驶汽车的部署提供坚实的法律保障”。与此同时,考虑到自动驾驶立法所涉及的监管领域较多,范围较广,“全面立法可能需要对交通安全管理、测绘、运输、信息、通讯、质检、标准化等七个领域的超过24部法律法规进行修改”。从可操作性上看,对于自动驾驶进行单一立法的方案不仅立法难度较大而且立法周期较长。因此,为解决自动驾驶测试应用、上路行驶及责任分配等现实迫切问题,较为务实的策略是采用综合性立法方式,对自动驾驶涉及的《道路交通法》及相关法律法规进行修订和完善,构建自动驾驶的基本规范框架和规范体系,促进对自动驾驶法律问题的有效规制。

从现阶段自动驾驶的发展来看,自动驾驶法律的基本规范框架和体系,应紧紧围绕自动驾驶的法律准入、责任主体和责任形式变化来展开建构。同时,重点聚焦网络安全与隐私保护展开法律规范的修改与完善。具体而言,第一步,应修改完善《道路交通安全法》、《道路车辆生产企业及产品准入管理办法》及相关法律法规关于机动车的概念、类型的立法规定,赋予自动驾驶车辆作为机动车的法定概念和法定类型的法律地位,确保自动驾驶车辆融入既定的监管框架和法律体系,实现自动驾驶车辆与法律规则体系的沟通、互动。第二步,应修改完善《产品质量法》及相关法律法规关于产品范围及产品责任的立法规定,明确自动驾驶的算法或软件属于法律意义上的产品,同时结合《民法》侵权责任编的规定,细化严格责任原则下产品责任的认定标准和认定规则,确保《产品质量法》有效应对自动驾驶的算法和软件造成的产品责任侵权问题。第三步,对《网络安全法》的网络运营者概念和范围进行扩张解释,将自动驾驶及其生产制造和后台运营企业纳入网络运营者范围,确保自动驾驶车辆的生产制造商的数据收集、处理和使用活动进入《个人信息保护法》、《网络安全法》等法律法规的规制范畴,实现对乘客、行人关键信息和个人隐私的全面保护。最后,对《刑法》的交通事故犯罪规范进行修改完善,对于自动驾驶的驾驶员设置接管操作的作为义务。对于驾驶员的不作为、过失操作以及同时满足不作为且存在过失操作,并造成严重危害后果的,应规定驾驶员承担相应的责任。对于自动驾驶的生产制造商,应根据生产制造和商业应用两个阶段,为其设定安全管理的义务和责任,“对于拒不履行安全管理义务且情节严重的,应规定由自动驾驶的生产制造商承担相应的刑事责任”。

自动驾驶通过驾驶算法与控制硬件结合,将驾驶从人类行为转化为机器功能,最大限度地克服了人类驾驶的局限性。同时,自动驾驶无条件遵守驾驶算法中所反映的监管要求和法律规范,避免了人类驾驶员的人为过失或不当驾驶行为,大大降低了道路交通事故的发生概率,从而满足了自动驾驶的安全性考量。在自动驾驶场域,通过与人类驾驶员共享驾驶控制权乃至最终独占驾驶控制权,自动驾驶的目标旨在取代监管框架与法律体系的主要监管对象——人类驾驶员。自动驾驶通过驾驶算法、控制逻辑及碰撞优化算法替换了人类驾驶员的驾驶经验、技巧和决策,将驾驶行为的监管场域从驾驶的操作、决策环节前移至设计、研发和监管环节。因而自动驾驶车辆的资格准入,自动驾驶车辆违法、犯罪行为的责任分配,以及自动驾驶汽车对数据安全和隐私保护的现实威胁,将会对当前的驾驶秩序、交通安全规范和隐私保护框架形成根本性的挑战。与此同时,自动驾驶的渐进式发展趋势也意味着,未来很长一段时间,人类与自动驾驶将共享道路交通。而人类与自动驾驶交互将进一步增加自动驾驶监管的复杂性。因此,在自动驾驶即将从想象步入现实之际,应系统构建有效的监管框架与法律规范体系,积极回应自动驾驶技术发展带来的风险与挑战。

(本文注释内容略)

供稿:北京市社会科学院科研组织处、法治研究所 

文章来源:《北京师范大学学报(社会科学版)》

文章来源:http://www.71.cn/2025/0731/1268757.shtml