当前位置:
网站首页 > 分论坛二

何姗姗:自动驾驶--法律与伦理的双重探索

说到人工智能,可能我今天说的跟产业界联系得比较紧密一点,人工智能应用领域现在总结下来有这么几块,一个是自动驾驶,安防、金融、个人助理、医疗、教育等都有。我来自于安理律师事务所,我们有覆盖全产业的人工智能团队,有三位领衔合伙人,我更偏重自动驾驶领域等领域,其他两位合伙人负责金融、医疗和教育等。我现在直奔主题,说一下自动驾驶。

第一个问题,大家觉得自动驾驶汽车离我们到底有多远,五年、十年,大家认为五年的有多少?大家比较乐观。十年的呢?二十年的呢?或者三年的呢?明年的呢?也有人举手。我这里分享一个故事,时间不够,就简练的版本。2017天7月份,奥迪对外公布,全球第一家用来生产量产的自动化汽车。所谓量产,不是测试的车,它是真正走到大家生活当中的自动驾驶汽车。这是L3级别的自动驾驶汽车。

2011年的时候,欧洲研发团队来到北京,问了我一个问题:有没有可能在中国测试自动驾驶汽车?当时欧洲大部分国家是维也纳公约缔约国,不管你驾驶一匹马还是一辆车,双手必须要操控你的交通工具。因此,自动驾驶汽车不能在欧洲测试。当时美国内华达州已经非常活跃的在测试自动驾驶汽车的测试了。中国也有团队在测试。2011年,我们根据中国的相关的法律法规,是不是允许测试呢?2011年到现在,6年时间过去了,又发生了哪些变化。待会我会揭示一下。

回到自动驾驶汽车的话题。为什么会有自动驾驶汽车呢?一个是疲劳驾驶,一个是酒驾是非常危险的。自动驾驶汽车可以解决这个问题,另外它也节能。大家都清楚,很多时候,我们会想到自动驾驶汽车的技术,跟新能源汽车联系在一起的。因为新能源汽车,现在是要求数据随时上传的。节能这一块,我们不是一个智能的机器人在路上走,它会跟网联发信号,它是一个有机的整体。可以做到,某一天不需要红绿灯了,这个情况下,车很匀速的通过,这是可能会实现的。第三点就是高度便捷,这个很有意思。2011年的时候,我们看统计,包括国外的统计,问大家你是不是欢迎自动驾驶技术?欧洲人说我喜欢长途开汽车,这个有驾驶的乐趣。但是到现在调查,变化很大,喜欢网络的这一代说我不喜欢驾驶汽车,我有这个时间,我更愿意上上网,看看微博。这个是很明显的变化。所以这个情况下,市场对发展自动驾驶汽车更有需求。

说到它跟人工智能之间的链接,跟大家分析一下。自动驾驶这个方面,运用到人工智能的技术有哪一些呢?比如计算法、语音识别、感知、决策等。驾驶汽车,从人脑到车脑,这个车脑具备雷达、传感器、摄像头、语音识别等。它能观察周围的情况,包括人眼看不到的。比如拐弯后面的东西,人眼看不到,但是汽车可以接收信息,可以预测到。这个过程当中,现在的自动驾驶汽车,包括L3级别的。在国外,也要求你装摄像头。随时能看到驾驶人员面部表情,是困了还是瞌睡了。摄像头也可以识别路上的行人,它驾驶过程当中,要做到计算。这个就是驾驶跟人工智能结合的部分。但是要跟大家讲一下,我们真正发展自动驾驶,对于应用人工智能技术是比较审慎的,现在顶多用到10%。它可以用到更多,但是因为安全等等,我们会一步一步的引入到这个状态。

跟大家讲一下自动驾驶在中国的政策背景。2017年7月份,国务院发布了新一代人工智能发展规划,它提到重点围绕自动驾驶、服务机器人等应用基础教好的细分领域。也就是刚刚说到了,人工智能我们畅想,可以跟很多行业结合。自动驾驶是其中一块。我们国家现在也开始关注自动驾驶,比如跟它相关的伦理道德、法律法规、国际规则,到底如何建立。然后我们再讲一下,国内外现在参与自动驾驶汽车的企业有哪一些。这里列举一一下,大家基本上可以看到,除了传统的汽车厂之外,还有黑马,比如特斯拉,它是新能源汽车背景这一块杀进来的,有互联网特征的。我个人感激一下特斯拉,因为没有这样的黑马杀出的话,传统汽车厂家也觉得,我已经很赚钱了,即便技术上做得到,但是也没有动力把技术落地。在这样的冲击之下,很多互联网公司也进入到汽车业界。汽车产业界,除了汽车厂,还有跟互联网公司PK。谁会胜出,大家拭目以待,这个要看将来软件更胜出,还是硬件胜出。

中国的自动驾驶汽车路线图是智能+网联,国外只讲智能,中国网联通信的基础非常好,包括互联网的基础也非常好,所以这个领域我们赶超其他国家,我们不能放弃自我优势。所以我们国家是智能+网联这两块,智能跟刚刚说到的人工智能相关。说到自动驾驶汽车的分级,0级和1级不是自动驾驶汽车,比如有相应的跟车、自动停车。它是辅助型的功能。但是真正从L3级开始,我们叫Hands off,可以把手拿下来的,可以打电话,做其他的事情。L3可以做到Hands off。中国的交通环境很复杂,你是不是能万无一失的应用呢?我们为了安全起见,我们会给它一些设立的范围。L3级别,我们会在一些封闭的区域,包括高速公路上,行人不能进的地方做应用。到L4,我们可以把眼闭上了,因为L4人可以闭着眼了。大部分时间是由汽车系统来挖成的。到了L5级别,这个车是可以不装驾驶员座位了,压根儿没有人操控的可能性了。这个路线图是中国跟美国跟欧洲是接轨的。但是我们有自己的特点,典型工况这一块,中国根据自己的情况做了规划。这个是工信部做的征求意见稿,还没有完全实施。网联这一块,它除了跟人通信,还做到车跟车通信等。。

刚刚说到了,整个这个产业当中的参与方特别多,除了普通以前我们说的人和车辆这两件事情之外,我们这里还看到,至少有其他的八个参与者。有基础设施,有服务提供商比如地图提供商,因为将来的自动驾驶汽车是依赖于高精地图的。所以地图传输的信号是不是及时、准确,包括传输信号过程当中,还涉及到很多的问题,隐私问题,国家安全问题等。

自动驾驶涉及的法律问题很多,是我们关注的:有测试方面、标准方面、市场准入方面,还有驾驶员行为。大家清楚,如果你现在开着车打电话,就有人来扣分了。所以汽车装了这个自动驾驶功能,怎么办呢?你会被罚款。技术很快往前发展,但是法律、政策还有很多不融合的地方。

这里可以放个小录像,是跟测试有关。跟大家分享一下,现在中国还不允许测试,有点遗憾的。这个录像是AAI公司的虚拟测试,也就是将来我们会把所有的真实世界搬到虚拟环境当中,我们测试在虚拟环境里面先进行测试。比如我们驾驶系统,可以链接在里面,可以识别天气变化,前面有个车急刹车,我们说这是属于不礼貌的驾驶行为,突然急刹车,这个存在,我们在这个系统里面,让它实现不断的学习,不断的训练,在一个虚拟的环境里面,我们定义哪个车是什么类型的。是属于激进型的驾驶员还是保守型的驾驶员,包括天气情况等等,虚拟环境里面,先让这个车进行测试,达到纠错能力,相应的情况,比如达到70%-80%,已经比较安全了,然后我们再把它放到道路上行驶。这是美国最新十月份推进的法规当中专门加进来的,就是虚拟方式是很好的方式,可以解决一些实际问题。

国外有很多国家已经允许上路测试了。包括维也纳公约,也修改了相关的法规。美国,今年夏天到秋天,硕果丰富,美国出了一个组合拳,除了政策层面上,从去年九月份到今年十月份更新了它所有的自动驾驶的政策之外,还出了两个法案。基本上美国做的事情,各个州,处于遍地开花的状态。一个车因为不可能在一个州上跑,它会穿越。所以它做的事情比我们更超前,它要把各个州不同的法规要调和。英国也在讨论相关的法规了。澳大利亚,欧洲大部分的国家,都开放了测试。尤其立法的先行者德国,今年六月份,修订了道路交通法,主要针对L3级别,它要求人需要时时刻刻的坐在驾驶座位上,要求我们汽车厂家,随时有摄象头监控人的状态,如果你人的状态不好,它用警报叫你接管程序。

德国的立法更谨慎,跟美国相比,美国更开放,它有的测试车是L5级别了。可以不用人在上面。但是德国还要人坐在上面,包括隐私等等都有相关的规定。还有保险,为了产业能落地,都已经相匹配了。亚洲、韩国包括新加坡都允许测试。

现在,第二部分讲自动驾驶的伦理问题。最早提出的伦理问题,是1967年,电车困境,一边轨道上绑五个人,一边轨道上绑一个人,车向哪边开,你说车怎么拉拉杆,怎么办。德国的伦理委员会今年夏天的时候,颁布了一个自动化和互联化驾驶道德准则,它有二十条准则,我个人对它评价很高,很有前瞻性,除了老生常谈的问题,它说到了人的安全性重于动物的安全性,它有一些原则是要确定的。另外还有我们一直经常谈的,自从有自动驾驶这个话题之后,媒体都会在问,问一个问题,两难局面,以前人开车的时候,不见得有人问你。现在自动驾驶总有人问这个问题。就是一边是小孩,一边是悬崖,请问你撞小孩呢?还是自杀往悬崖下开。这个问题,伦理委员会在整个讨论过程当中,非常激烈。但是伦理委员会后来提出一点,不应该花更多的时间讨论撞谁的问题。它问了一个问题,如果在交通堵塞的时候,把驾驶交给系统来完成,是不是要把这种出现概率极低的问题也要交给系统呢?因为讨论过程当中,伦理委员会怎么思考的呢?它认为,如果你要求每个程序员要编程往小孩身上还是悬崖下撞,等于剥夺了驾驶员选择的权利。

所以刚刚这个PPT,每个人看到小孩的时候,能看到笑脸,能看到一种感情,包括还有一种极端的情况,比如这个坐在车里的驾驶员,虽然是系统在开车,可是他突然发现前面那个小孩是他的儿子,这种判断又不一样了。所以这种情况下,伦理委员会觉得两难面前,不可以把这个问题交给系统。当然也不是说这个问题不管了。就是技术发展上要做到更全面的先进的技术,尽量避免两难局面的发生。比如可以通过基站,通过信号的传输,提前告诉你前面是什么样的情况。所以针对伦理的探索,伦理委员会也有这样的方法。

每辆车学习,其实是属于人去训练它的过程,所以针对每个被训练过的汽车,给哪个车发许可,这个标准很难来界定的。所以这个阶段,早期发展自动驾驶的阶段,对于深度的自主学习,提出一个相对来讲比较审慎的态度来应用。

最后很快的讨论一下我们国家的情况。我们国家出了很多的政策,确实关于真正法律层面的讨论,或者是修改,是比较少的。现在遇到的难题也很多,一个是我们还不能测试,也没有测试相关的规定,而且因为是新主体,这个车来了之后,原来交管部门来管就够了,现在发现很多部门都可以管得上了。现在法律法规研究的时候,发现有40个法律法规可能都跟它相关,而且都有不融合的地方。而且我们国家涉及到多个部门的协调,现在我们算下来有二十多个部门,进自动驾驶有关的。

我们可以借鉴美国德国等国外的方式,立法阶段,可以鼓励新技术的发展,同时要保证安全,在两个坐标之下找到结合点。

最后回答大家我最早提出的这个问题,自动驾驶汽车到底离我们有多远?回答是:无人驾驶汽车离我们比较远,但是智能网联汽车,其实离我们很近。所以法律对此,应该要起到保障安全、引导发展,鼓励监督的作用。

好的,我的分享就到这里,谢谢。

  • SIFL年会2017
  • 【鸿儒论道】孙明春:中国经济转型升级中的投资机遇
  • 上海社会认知调查
  • 研究员评论
  • 李步云法学奖