马克思在《论离婚法草案》中有一句名言:“立法者应该把自己看作一个自然科学家,他不是在制造法律,不是在发明法律,而仅仅是在表述法律,他把精神关系的内在规律表现在有意识的现行法律之中。如果,一个立法者用自己的臆想来代替事情的本质,那么我们就应该责备他极端任性。”对于一个新兴领域进行专门立法规制,一般需要三个条件:一是社会产生了对这一新兴领域进行立法规制的现实需求；二是在现行法律法规框架内无法实现对其进行必要调整；三是立法者能够认清和把握其内在的客观规律。

机器翻译、语音识别、智能家居、无人驾驶……随着人工智能技术的不断发展成熟,其正在越来越深度地介入人们的生活,相关的风险也开始不断暴露。人工智能是否亟须立法规制?如进行规制又该秉承什么原则?不同细分应用领域的规制重点又该如何把握?本期“声音版”邀请相关法律专家、行业从业者一道进行探讨,敬请读者关注。

从人工智能发展态势看,当前需要着手进行的立法项目,首先是全国人大及其常委会立法,包括在编纂民法典中,明确人工智能相关的民事基础制度；制定数据安全法,对人工智能时代的数据安全和信息保护作出规定；制定电信法,为人工智能发展提供良好的公共网络基础设施环境；修改道路交通安全法,对无人驾驶汽车作出规定；修改著作权法、专利法,对人工智能知识产权相关问题作出规定；适时出台刑法修正案,对人工智能涉及的犯罪作出规定。

　　□　曹建峰

其次是国务院制定行政法规,包括制定网络安全法实施条例、机器人使用安全管理条例、人工智能基础设施管理条例、智能网联汽车管理条例、人工智能辅助医疗诊断与治疗管理条例、修改计算机软件保护条例等。

有效应对新型风险必须加快立法进程

第二,算法治理需要包容审慎、敏捷灵活的思路,技术和商业模式快速迭代,草率立法不可能期待会产生正面效果,而且成文或专门立法恐难跟上技术发展步伐,所以应避免严格、细致的法律要求,而是采取事后监管或者通过出台标准、行业公约、伦理框架、最佳实践、技术指南等方式调整算法应用,支持行业自律。

第一,算法实际上是一个非常广义的概念,所谓的算法治理是针对机器学习等人工智能算法在特定领域的应用,所以明确概念是算法治理的起点。

万　勇:中国人民大学法学院教授、国家版权局国际版权研究基地研究员

第三,算法透明不是对算法的每一个步骤、技术原理和实现细节进行解释,简单公开算法系统的源代码也不能提供有效的透明度,反倒可能威胁数据隐私或影响算法安全应用。相反,在算法系统的行为和决策上实现有效透明将更可取,也能提供显著的效益。如欧盟《一般数据保护条例》(GDPR)并没有要求对特定自动化决策进行解释,而仅要求提供关于内在逻辑的有意义的信息,并解释自动化决策的重要性和预想的后果。

二是因开发利用人工智能,引发民事纠纷,客观上需要人工智能立法确定承担民事责任的边界。例如,随着人工智能的普及,人工智能创作物的知识产权归属问题如何确定,目前已有相关案例。传统著作权法理论认为,作品是作者人格的体现,只有自然人才能创作作品。但动物和机器,无论何时都不能成为作者,即使其创作物具备了作品的特征。而现在,人工智能创作物向这一理论发起了挑战。此外,自动驾驶汽车的安全性问题已经引起了广泛关注,从自动驾驶汽车的生产资质、上路许可,到发生事故后的责任分担,当前法律均处于空白状态。因此,因人工智能汽车自动驾驶引发的交通事故,迫切需要通过立法,为明确责任、解决纠纷提供有效的法律依据。

但算法的应用在给人们生活带来便利的同时,也带来一系列法律、伦理与社会问题,诸如算法歧视、责任、安全、滥用、深度伪造等。国际社会开始呼吁建立算法治理,实现算法透明与问责。对此需要考虑以下几个方面的问题:

2018年9月,第十三届全国人大常委会向社会公布本届全国人大立法计划,人工智能立法列入其中,这是人工智能领域具有重大历史意义的标志性事件。在当代人工智能飞速发展的新形势下,我们既要认清新一代人工智能技术是时代之需、发展之要、民生之盼,也要看到因技术短板、监管不力、应用失范等因素而引发的潜在风险及对社会带来的实际危害。唯有未雨绸缪地找准、判明人工智能发展带来的风险点,并及时采取法律应对措施,才能在抢抓战略机遇的同时,适时化危为机,确保社会规范有序。

　　□　万　勇

第四,算法治理需要分级分类的监管机制,例如欧盟、加拿大等呼吁针对政府和社会公共部门使用的算法系统进行严监管,包括建立“算法影响评估”机制；对于商业领域的算法系统则更多采取事后追究法律责任的机制,以免过度监管影响技术创新。

导读

三是因开发利用人工智能,违反行政管理规范,需要有关行政管理机关对违法的管理相对人进行行政处罚。例如,开发利用人工智能,在一定情形下需要行政许可,否则就要担责。这些具体的情形就需要以法律法规的形式作出规范,这是立法任务。与此相对应,对于有关行政管理机关不作为和滥作为的情形,公民、法人和有关组织可以依法提起行政诉讼,这些也需要依法作出规范。

　　□　孙佑海

弱人工智能时代立法尚无基础和条件

2017年5月,微软“小冰”创作的诗集《阳光失了玻璃窗》正式出版、谷歌开发的人工智能DeepDream可以生成绘画,且所生成的画作已经成功拍卖……从外观形式来看,由人工智能创作的成果与人类创作的成果没有任何区别,且很难被察觉并非由人类所作。可以说,与以往技术创新相比,人工智能技术对著作权法提出的挑战是最根本,也是最全面的。

对于自动驾驶这一新生事物,立法要密切关注跟踪其发展动态,然后再适当立法,且早期立法应以鼓励为主。就目前中国自动驾驶发展状况而言,一些城市已出台相关法规政策,允许自动驾驶汽车可在城市低速道路上进行路测,但仍有很多规定严重妨碍中国自动驾驶发展,如自动驾驶汽车不能进入高速公路测试,为此很多中国企业只能舍近求远前往美国进行高速路测,因为美国有相关法律支持。而如果不能在多种场景、更为复杂的路面上进行测试,那么自动驾驶技术和相关算法模型就难以快速成熟起来。作为从业者,希望现在的法律规制天花板往上抬一抬。当然在此过程中肯定会出现一些问题,但关键在于如何界定各方责任,促使企业将出现问题的几率降低,而不是一味限制。如果过度强调绝对不能出问题,那也就意味着自动驾驶绝对发展不起来。

随着互联网、大数据、云计算的发展,特别是随着5G技术落地应用,人工智能必将以前所未有的速度向前发展。人工智能的发展,一方面可以造福人类,单就法律领域来讲,人工智能给法律工作赋予了新的动能,立法、执法、司法、普法、法律服务都可以借助人工智能技术极大提高工作效率与质量。另一方面,人工智能也带来许多新的挑战,如果长期缺乏规制,可能会产生一定的灾难性后果。比如,无人驾驶、无人机技术可能会给杀人、走私、贩毒等犯罪行为提供便利；人工智能程序中的漏洞,可能被恶意利用,产生严重社会安全风险；人工智能的设计者、应用者可能突破伦理底线设计、使用人工智能以及数据泄露、算法歧视等。因此,有必要对人工智能发展进行立法规制,引导、规范人工智能健康发展。

在人工智能的立法规制上,有观点认为,亟须出台专门的人工智能法,笔者认为,当前人工智能总体上还处于弱人工智能时代,主要集中于语音识别、自动翻译、语音合成、图像识别、自动驾驶、工业机器人、聊天机器人等具体领域,短期内不可能出现“通用人工智能”。因此,尚不具备制定完整人工智能法律制度的实践基础和客观条件。

目前,有的国家已积累了一些经验。如英国《1988年版权、外观设计和专利法案》规定,对于计算机生成的文字、戏剧、音乐或艺术作品而言,作者应是对该作品的创作进行必要安排的人。由于这一条款具有一定的开放性,也赋予了法院较大的自由裁量权,对有效保护人工智能生成物的著作权发挥了积极作用,我国立法也可予以借鉴。

而为了保障和促进人工智能健康发展,对人工智能进行立法规制应坚持以下原则:一是以人为本原则。确保人工智能发展能够增加人类福祉,保障人的尊严、自由和人身财产安全。二是发展与安全平衡原则。处理好促进人工智能发展与保证社会安全之间的关系,二者不可偏废。三是政府干预适度原则。人工智能开发与应用只要不与法律法规相抵触,不危害公序良俗,政府就不要过度干预。四是伦理底线控制原则。明确人工智能在安全、隐私、公平、公正等方面的伦理底线。五是风险容忍度原则。人工智能发展具有很强的探索性,即使是相对成熟的应用,也还有相当的不确定性,要适当容忍其试错。六是多层级立法共进互补原则。在中国特色社会主义法律体系框架内,发挥统一、多层次的立法体制优势,从法律、行政法规、地方性法规等多个层次对人工智能进行立法规制。

张宜云:天津市人大立法研究所助理研究员

二是明确近期立法工作重点。当前,针对人工智能的具体应用进行专门立法,是较为务实的立法思路。建议国务院或有关部门优先对自动驾驶、图像识别、无人机管控等相对成熟的技术应用行为制定法规或规章,规范社会管理秩序。

在通过法律政策推进自动驾驶技术发展的同时,也要密切关注行业的发展,如果发现可能会给人类带来极端破坏的情形,也要尽快制定法律法规进行规制。以其他行业为例,如2018年被爆出的基因编辑婴儿事件,就是一起非常可怕的案例,对于技术革新带来的这种极其负面的事件,就应当尽快进行立法明确法律红线。不过就目前自动驾驶领域的人工智能技术而言,尚没有发现会给人类带来潜在巨大危害的风险。(文字整理:本报记者马树娟)

邓煜坤:上海厚势汽车CEO

笔者认为,对于人工智能生成物的著作权定性这一极具争议的问题,作为社会稳定器的法院采取相对保守、平衡的立场,是合适的。需要指出的是,如果人工智能生成物不被承认是作品,相关主体出于利益最大化的考量,很有可能会隐瞒相关成果是人工智能创作的事实。这样导致的后果其实就是迫使人们“为恶”,即通过弄虚作假来规避法律,因为从外观上无法识别,人工智能生成物最终仍然会获得著作权法的保护。与其堵还不如疏,这种理念也应适用于人工智能生成物的法律规制领域。

今年4月,北京互联网法院对国内首例人工智能作品争议案作出了一审判决,为理论探讨提供了新鲜的实践素材。对于主体资格问题,法院认为,尽管随着科学技术的发展,人工智能生成物在内容、形态,甚至表达方式上日趋接近自然人,但根据现实的科技及产业发展水平,尚不宜在法律主体方面予以突破。不过,法院也认为,应给予人工智能生成物以一定的法律保护,因为其具备传播价值。

同时,人工智能产业发展的优势地区也可以加强地方立法,重点是制定促进人工智能产业发展的地方性法规,包括鼓励人工智能产业发展,促进人工智能在政务、财税、制造等领域应用,人工智能涉及的消费者权益保护、人力资源与社会保障等。

总之,随着人工智能快速发展,需要更多的法学家关注其法律问题,尽快构建人工智能伦理体系以及相关法学理论体系,为人工智能法律规制提供理论基础。同时,立法机关要更多关注人工智能的立法规制问题,发挥立法的引领与推动作用,尽早将人工智能立法规制的相关立法项目提上议事日程,为人工智能的健康发展创造良好的法治环境。

四是因开发利用人工智能,造成严重损害消费者合法权益和社会公共利益的情形,应当依法提起公益诉讼。但由于人工智能的开发利用对于社会公共利益的损害,有其新颖性和特殊性,人类应对的措施必然有所不同,因而必然也会对人工智能的立法提出新要求,这同时也增加了人工智能立法的难度。