医疗智能机器人发生医疗事故、自动驾驶造成交通事故、智能交易引发重大失误时，该归咎于技术故障、操作不当、设计缺陷，还是机器制造者的失误、主观故意，甚至或是智能机器人的自主意识？人工智能在未来是否可以替代法官？

今天在上海科学会堂举行的2018人工智能大会分论坛之一“人工智能与法治”研讨会上，国内外法学理论、司法实务、科学学、高科技企业等领域专家对此展开研讨。在学界看来，人工智能时代已经来临，它不仅改变人类世界，也会深刻改变人类的法律制度。关注人工智能时代的法治，就是站在人类命运共同体的角度，积极应对互联网、大数据、人工智能、区块链等前沿科技对国家治理、社会公平正义建设所带来的机遇和挑战。

“法律人格有无的争议，导致人工智能发展缺乏法律价值指引。”中国法学会民法学研究会常务理事彭诚信指出，人工智能的短期影响取决于谁控制人工智能，而长期影响则取决于人工智能到底能否受到控制，人工智能的发展必须明确其法律人格。目前，人工智能技术的发展已呈现出深度学习、跨界融合、人机协同、群智开放、自主操控等新特征，就国家层面而言，以各种可能的手段降低、控制风险，成为我国发展人工智能的重要战略任务。

上海市法学会党组书记、二级大法官、上海市高级人民法院原院长崔亚东认为，当前人工智能已渗透人类社会方方面面，并深刻地改变世界，人工智能在推动社会发展与进步的同时，也为司法实现现代化提供了重大历史机遇。

著名理论物理学家霍金曾说过：“发明AI（人工智能）可能会成为人类历史上最大的灾难，如果管理不善，会思考的机器可能会为（人类）文明划上句号。”这一担忧不无道理，到底该以何种恰当的形式进行最合理的规范和引导，以便将这些技术真正推向前行并最终服务于全人类？

刑法学专家刘宪权提出，应根据不同时代机器人的特征确定涉机器人犯罪的刑事责任承担路径，使得强智能机器人被纳入刑罚处罚的范围，并针对其自身的特点，设立特殊的刑罚处罚方式。

会议现场共同发布《人工智能与未来法治构建上海倡议》，坚持面向全球、面向未来、面向和平，坚持以人为本、向善安全、创新发展、共享成果、可靠可控、规范有序，从四大方面务实提出了人工智能与未来法治发展的14项具体倡议，以期将人工智能发展应用纳入法治的轨道，促进、规范、保障人工智能健康持续发展，服务国家战略实施，促进人类社会福祉的美好期待和愿景。

研讨会由上海市经济和信息化委员会、上海市法学会、上海人民出版社、上海市科学技术协会、上海市科学学研究所、科大讯飞主办。

近年来，上海学者紧紧围绕国家发展战略，率先对人工智能的相关法律问题开展研究。比如，彭诚信教授主编的“独角兽法学精品·人工智能”丛书涵盖国外科学界和法学界两大研究领域前沿成果，刘宪权教授主编的图书针对人工智能时代刑法所面临的问题进行回应，代表了国内学者在该领域的最新研究成果。《机器人是人吗？》《谁为机器人的行为负责？》《人工智能与法律的对话》《人工智能：刑法的时代挑战》等由上海人民出版社推出。

<<<<延伸阅读

经出版方授权，摘编《机器人是人吗？》一书序言如下

文/彭诚信（上海交通大学凯原法学院副院长、“人工智能丛书”主编）

无论生物学意义上的自然人类(以下简称人类)是否做好准备，人工智能时代正逐步走来，而这恰恰是由人类自身所引起。

人工智能最核心的“大脑”就是算法，算法本身便是规则。初级人工智能对人类的服务就是规则服务；而人类要接受人工智能的服务，就必须接受算法设定的各种规则。人工智能，尤其是结合网络运用的人工智能，会促使与提升自然人的规则意识，因为无论自然人在线下是否遵守规则，也无论规则在线下如何难以推行与实现，只要自然人接受线上服务，就必须遵守线上规则；无论自然人在线下如何不守信，他在线上也必须诚实，否则他就进入不了虚拟世界，便也无从获得特定人工智能的服务。在初级的人工智能时代，人类仍是核心，是世界的主宰，毕竟自然人仍是规则的制定者，是人工智能的服务对象。

而到了高级人工智能时代，即，当人工智能能够进入深度学习与感情交流，可以进行团体合作与共同行动时，换句话说，当人工智能可以改变甚至完全脱离自然人为其设计好的初始算法而创制新的算法时，那时的人工智能物便实实在在地变成了人工智能人。人工智能人如何改变自然社会，甚至如何引导与影响整个自然社会走向，已非自然人所能完全掌控与想象，恐怕也为人工智能人本身所不知。尤其是，当人工智能人可以在虚拟世界制定规则(创制新的算法)，而这种规则又必然会影响到自然世界时，那时自然世界的主宰到底是人工智能人，还是自然人，或许现在的我们(人类)已经难以给出确定答案。那时的人类在自然世界或虚拟世界中处于何种主体地位，现在的我们也不得而知。

当人工智能人有了情感交流能力并具有生物生成功能后，在自然人与自然人、人工智能人与人工智能人以及自然人与人工智能人之间的多元关系中，谁来制定规则，为谁制定规则，谁是自然世界或者虚拟世界的主宰或规则主体，以及各种形态主体之间具体的生活样态如何等问题，可能都远远超出了我们当下的想象，或许那时的社会状态本身就不可想象！

为此我们筛选并翻译了国外有关人工智能研究的较有影响力的三部经典著作，推介给中国读者。这三部著作便是意大利学者乌戈·帕加罗所著的《谁为机器人的行为负责？》、美国律师约翰·弗兰克·韦弗所著的《机器人是人吗？》以及美国学者瑞恩·卡洛、迈克尔·弗鲁姆金和加拿大学者伊恩·克尔编辑的文集《人工智能与法律的对话》。

2017年7月中华人民共和国国务院发布《新一代人工智能发展规划》，强调建立保障人工智能健康发展的法律法规，妥善应对人工智能可能带来的挑战，形成适应人工智能发展的制度安排。对于人工智能的探讨与研究，即便是对于人工智能的规范性研究，并非法学一个学科所能胜任。人工智能本身就是一个具有综合性、复杂性、前沿性的知识、智识与科学，它需要几乎所有的理工与人文社会科学学科进行交叉性研究，也需要研究者、实体技术者与产业者等各个领域的人配合与对话。法律人在人工智能的研究、开发、规则制定等各个环节中是不可缺少的一环，但也仅仅是一个环节，他只有加入人工智能的整体研究与发展中去，才会发挥更大的价值。我们期待这套译丛的出版有助于人工智能在法学及其他领域展开深入讨论，为跨学科的对话甚至团队合作提供一定程度的助益。

无论未来人工智能时代的社会生活样态如何，无论人工智能时代的社会主体如何多元，多元的主体依然会形成他们自己的存在哲学，也许依然需要他们自己的情感系统。无论未来的人工智能时代多么不可预测，问题的关键还是在于人类的自我与社会认知。就像苹果公司首席执行官蒂姆·库克(Tim Cook)在麻省理工学院(MIT)2017届毕业典礼演讲中指出的，“我并不担心人工智能能够像人一样思考，我更关心的是人们像计算机一样思考，没有价值观，没有同情心，没有对结果的敬畏之心。这就是为什么我们需要你们这样的毕业生，来帮助我们控制技术”。

是的，我们或许不知未来的人工智能是否会产生包含同情与敬畏的情感，但我们能够确信的是，即便在人工智能时代，我们最需要的依然是人类饱含同情与敬畏的“爱”！未来的人工智能时代无论是初级样态还是高级学习样态，能够让多元的主体存在并和谐相处的，能够把多元主体维系在一起的或许唯有“爱”。这个从古至今在自然世界难以找到确定含义的概念，在虚拟与现实共处的世界中更是难以获得其固定内涵，但我们唯一知道并可以确信的是，如果没有“爱”，那么未来的人工智能时代就真的进入了一个混沌而混乱的世界！

文汇记者：许旸

编辑制作：许旸

责任编辑：邵岭

*文汇独家稿件，转载请注明出处。| 主办方供图