智能无人系统开发与应用的法律规制-科技论文

胡元聪1,2,曲君宇1

摘 要:智能无人系统的迅猛发展使人类获益良多,但在其开发与应用中也引致了数据垄断、数据侵权、算法霸权、产品责任和社会保障等法律问题,亟需加以应对和解决。在弱人工智能时代,应将智能无人系统作为“产品”以法律客体进行对待。同时在坚持尊重人权原则、社会公平原则、安全可控原则、开放共享原则和权义统一原则的基础上,通过构建数据强制许可与用户授权规则、制定产品安全与算法技术标准、加重开发者信息披露与解释说明义务、建立产品责任追溯与责任分担机制、健全相关社会保障与公民发展制度,为智能无人系统的高质量发展提供坚实的法律保障。

一、研究背景与问题

自2017年国务院政府工作报告提出要培育和壮大人工智能产业以来,我国掀起了智能无人系统开发与应用的热潮。基于智能无人系统对社会生产力发展的巨大推动作用,同时基于对《中国制造2025》提出的“关键岗位机器人替代”工程目标的美好憧憬,政府、企业、高校等社会各界均投身于智能无人系统的研究中。随着研究不断深入,智能无人系统开发与应用中面临的法律问题也日渐凸显。因此,如何通过制度革新对这些法律问题加以解决成为了智能无人系统研究中的新焦点。目前,对于智能无人系统开发与应用中面临哪些法律问题,学界已研究得较为透彻,《新一代人工智能治理原则——发展负责任的人工智能》《人工智能安全白皮书(2018)》等报告中对此均有涉及,大致可以概括为数据垄断问题、数据侵权问题、算法霸权问题、产品责任问题和社会保障问题。但对于如何通过制度革新解决智能无人系统开发与应用中面临的上述法律问题,现有研究仍然存在不足,一方面对规制理念的探讨尚不全面;另一方面提出的规制对策也有待细化,因而迫切需要后续研究者加以挖掘与拓展。

智能无人系统开发与应用的法律规制-科技论文

研究“智能无人系统开发与应用的法律规制”需要结合智能无人系统的现有技术背景进行展开。在目前的弱人工智能时代,智能无人系统不能也没有必要成为独立的法律主体,可以作为“产品”以法律客体的形式存在。而根据法学的基本原理,法律规制主要具有两个功能,一是对法律主体进行约束和限制,二是对法律主体提供激励和保护。因此,对智能无人系统开发与应用的法律规制实质上是对智能无人系统中各方主体的法律规制。其中,智能无人系统的开发者凭借数据壁垒和算法优势,不断攫取超额利益,所以需要法律予以约束和限制;智能无人系统的消费者、受智能无人系统影响的劳动者以及其他利益相关者的正当利益不断受到侵害,所以需要法律予以激励和保护。只有善用法律,对智能无人系统中各方主体辩证地加以规制,使各方主体的利益达致均衡,才能妥善解决智能无人系统开发与应用中面临的法律问题[1]。

基于上述考虑,本文以“问题提出——基本原则——具体对策”为分析框架,试图阐明智能无人系统开发与应用中面临的许多法律问题,而这些法律问题阻碍了市场秩序的正常运行,可能对个人、社会和国家的利益造成严重损害,故而亟需对其进行法律规制。本文通过对各类法律价值理念进行考量和取舍,提出应当树立尊重人权、社会公平、安全可控、开放共享和权义统一五项基本原则,为智能无人系统开发与应用的法律规制提供理论支撑。并以此为指引,通过构建强制许可与用户授权规则、制定产品安全与算法技术标准、加重信息披露与解释说明义务、建立责任追溯与责任分担机制、健全相关社会保障与发展制度,为智能无人系统的开发与应用提供具体的规制对策,以保障智能无人系统的高质量发展。

二、智能无人系统开发与应用中的法律问题梳理

(一)智能无人系统开发中的数据垄断问题

依照德国于2017年发布的《大数据与竞争》中的观点,数据壁垒的形成有两个前提,一是相关数据具有重要作用,二是其他经营者没有能力获得数据。参照此观点可以发现,智能无人系统在开发中可能面临数据壁垒问题[2]。一方面,智能无人系统的开发离不开海量的数据作为支撑。开发者通过对数据进行收集、分析和使用,不仅可以充分了解用户偏好而提供个性化的智能无人系统产品,还可以对智能无人系统产品的应用环境作出更多模拟,促进智能无人系统产品性能的优化,增强其自主性。因此,相关数据对智能无人系统的开发具有重要作用[3]。另一方面,对智能无人系统的相关数据进行收集,需要开发者投资相应的基础设施且需要用户使用该开发者的产品。然而许多潜在的开发者没有能力进行相应的前期基础设施投资,又或者虽然进行了前期投资但却因为用户数量过少而难以收集到足够的用户数据。就目前的情况看,由于我国对数据垄断的法律规制仍处于空白状态,导致开发者很容易凭借数据壁垒进行数据垄断。因为其只需要依靠自身掌握大量数据资源的优势,拒绝向其他开发者共享数据资源,就可以迫使其他开发者开发同类智能无人系统时从头做起,重复自己已做的劳动。待其他开发者完成开发,原开发者早已通过产品的市场反馈数据以及后续模拟实验开发出更先进的智能无人系统,如此循环往复,形成完整的周期闭环,其他开发者只能被迫退出竞争。因此,开发者可以依靠不断累积的数据在市场竞争中构筑最深的“护城河”,限制其他开发者进入相关市场,从而占据市场支配地位,形成数据垄断。开发者的数据垄断行为不仅有碍市场的正常竞争秩序,剥夺了其他开发者公平参与市场竞争的机会,从长期来看,更会损害消费者权益,最终减损社会整体利益。

智能无人系统开发与应用的法律规制-科技论文

(二)智能无人系统开发中的数据侵权问题

智能无人系统在开发中不仅面临数据垄断问题,还可能面临严重的数据侵权问题。智能无人系统产品应用中所反馈的数据,往往是通过对用户的个人信息进行采集、处理和分析所得,这就可能涉及到对用户权利的侵犯。事实上,针对数据侵权问题,我国已经出台了多部法律以及规范性文件进行规制,但其都存在一定缺陷。如《中华人民共和国消费者权益保护法》(以下简称《消费者权益保护法》)第29条规定了经营者收集、使用消费者个人信息时应遵循合法、正当、必要原则,并承担明确告知、征得同意、保密、保障安全、补救等义务。但其并未正面规定消费者作为信息主体所享有的权利。《关于加强网络信息保护的决定》第1条规定了国家保护有关公民个人身份和个人隐私的电子信息。但其却未明确个人身份的具体范围而存在可诉性缺陷。《中华人民共和国民法总则》第111条规定了自然人的个人信息受法律保护,任何组织和个人在获取个人信息时都应当依法取得并确保信息安全,而不得非法收集、使用、加工、传输他人个人信息,也不得非法买卖、提供或者公开他人个人信息。但该条款也只是一种原则性规定,在实践中难以直接适用。目前为止,我国尚未对个人信息权利做出明确且具体的规定。正是由于制度设计过于粗略,致使部分开发者抱着侥幸心理,游走于法律边缘。其中有的开发者未经授权,任意收集、使用和分析用户的个人信息数据,有的开发者虽然获得了用户授权,但授权协议采用了格式条款的形式,不仅难以引起用户的注意,且授权协议的内容也超越了必要范围。开发者的这些行为由于缺乏法律上的依据,因而均涉嫌个人信息数据侵权。

(三)智能无人系统开发中的算法霸权问题

尤瓦尔曾预测,未来的时代将会进入算法主导的时代,权威将从个人转向由算法构成的网络。人类不会再认为自己是自主的个体,不再依据自己的期望度日,而是习惯把人类整体看作一种生化机制的集合体,由电子算法网络实时监测和指挥[4]。这一预测虽然现在看来还有些杞人忧天,但也间接证明了算法在人工智能时代的重要性。对智能无人系统而言,算法是其运行机制的核心,决定着智能无人系统的运行逻辑。因此,当开发者滥用算法时,很可能导致算法霸权的产生。算法霸权在智能无人系统的开发中可能基于两种原因产生:其一,开发者基于算法后门取得霸权。一般产品的生产者将产品售出后