2019年5月26日，北京，AI智能服务机器人“小豹”亮相石景山万达广场。图/视觉中国

导读： 2018年7月清华大学发布的《中国人工智能发展报告2018》显示，中国已成为全球人工智能投融资规模最大国家。截至2018年6月，中国人工智能企业数量已达到1011家，位列世界第二。与此同时，随着我国人工智能进入蓬勃发展的黄金期，相关一系列问题也逐渐显现。推动我国新一代人工智能健康发展具有战略意义，但如何发挥法治作用、正确协调发展与规制的关系？对此，多位全国人大代表和专家发表了意见、建议。

正文：

“我国尚无专门的人工智能安全相关法律法规，人工智能涉及的算法设计、产品开发、成果应用等流程的监管体系有待完善。”

“出于防范重大风险的考虑，有必要针对人工智能的具体应用进行立法。”

⋯⋯

今年的全国人代会上，人工智能立法成为刘多、邵志清等人大代表关注的焦点之一。诸多代表在接受媒体采访时表示，要促进人工智能健康高速发展，相应的法治保障必不可少。

人工智能蓬勃发展

2018年10月，习近平总书记在中共中央政治局第九次集体学习时强调：“人工智能是新一轮科技革命和产业变革的重要驱动力量，加快发展新一代人工智能是事关我国能否抓住新一轮科技革命和产业变革机遇的战略问题。要深刻认识加快发展新一代人工智能的重大意义，加强领导，做好规划，明确任务，夯实基础，促进其同经济社会发展深度融合，推动我国新一代人工智能健康发展。”

对于当前人工智能的发展现状，中国科学院院士谭铁牛从三个维度作了总结：从技术维度来看，人工智能技术突破主要集中在专用智能领域，通用智能发展水平仍处于起步阶段；从产业维度来看，人工智能创新创业如火如荼，技术和商业生态已见雏形；从社会维度来看，世界主要国家纷纷将人工智能上升为国家战略，人工智能社会影响日益凸显。

虽然我国人工智能进入蓬勃发展的黄金期，呈现良好发展态势，但在基础研究、原创成果、顶尖人才、技术生态、基础平台、标准规范等方面距离世界领先水平还存在较大差距。谭铁牛介绍，英国牛津大学2018年的一项研究报告显示，中国的人工智能发展能力大致为美国的一半水平。“目前在人工智能前沿理论创新方面，我国总体尚处于‘跟跑’地位，大部分创新偏重于技术应用，存在‘头重脚轻’的不均衡现象。”另外，我国在开源社区、技术生态布局、国内标准制定和实施等多方面相对滞后。谭铁牛同时指出，“向通用人工智能的跨越式发展，既是下一代人工智能发展的必然趋势，也是国际研究与应用领域的挑战问题。”

在这一背景下，国务院参事汤敏、国务院参事室特约研究员左小蕾结合我国国情与人工智能的发展空间分析认为,加快发展新一代人工智能具有战略意义，人工智能技术确实为我们提供了“弯道超车”的机会。作为制造业大国，近年来中国低成本优势逐渐消失，制造业转型迫在眉睫。在新时代成长环境中，企业利用好新一代信息技术将是抓住机遇的关键。我国处于新一轮改革发展的关键时刻，应充分利用大量企业正在转型升级的机会，强化企业在人工智能技术创新中的主体地位，紧盯人工智能研究最前沿发展。

挑战与机遇并存，相关立法工作已着手

2017年9月22日，浙江省绍兴市警方侦破全国首例利用人工智能侵犯公民个人信息案件，彻底摧毁入侵网站“黑客”团伙、利用AI技术识别图片验证码团伙等43个团伙，成功截留被盗公民个人信息10亿余组。这一案件引发了公众对人工智能应用中个人信息安全的关注和担忧。

2016年欧盟委员会法律事务委员会在一项动议中将最先进的自动化机器人身份定位为“电子人（electronic persons）”，2017年沙特阿拉伯授予机器人“索菲亚”公民身份，也引发了公众对人工智能系统法律主体资格的疑问。

谭铁牛表示，“人工智能的社会影响是多元的。产生拉动经济、服务民生、造福社会等正面效应的同时，也可能出现安全失控、法律失准、道德失范、伦理失常、隐私失密等社会问题。要看到人工智能对社会秩序及公共管理体制带来的新的挑战，以及引发的法律、伦理等问题。”

对于人工智能可能涉及的法律问题，全国人大代表、中国移动通信集团有限公司董事长杨杰认为，人工智能技术发展与现有法律规则间的冲突已经凸显，尤其给侵权责任的认定带来挑战。“以自动驾驶为例，在造成他人损害时，如何在开发设计者、生产者、使用者之间分配责任，以及如何认定其中人工智能技术应承担的责任，现有侵权责任和产品责任等法律制度都不能给出答案。”邵志清代表表示，人工智能引发的问题开始从技术领域、民事领域向刑事领域延伸，比如利用人工智能技术侵犯公民个人信息、竞争对手商业秘密，甚至危害公民人身安全、社会安全稳定等。

对此，十三届全国人大二次会议副秘书长、发言人张业遂介绍说，全国人大常委会已将一些与人工智能密切相关的立法项目，如数据安全法、个人信息保护法和修改科学技术进步法等列入本届全国人大常委会五年立法规划，同时把人工智能方面立法列入抓紧研究项目。

此外值得注意的是，以“发展应用与法律保障”为主题的“人工智能与法治”高端研讨会于2018年9月19日在上海举行。会议发布《人工智能与未来法治构建上海倡议》，并为构建人工智能未来法治体系，将人工智能发展应用纳入法治轨道，从四大方面提出人工智能与未来法治发展的14项具体倡议。

法治：为人工智能健康持续发展“上保险”

谈及人工智能发展，张业遂表示，一方面要大力促进人工智能技术的发展和应用，另一方面要加强前瞻性预防和约束引导，确保安全可控。对此，多位全国人大代表建议加强伦理、责任分配方面的立法，但要处理好发展与规制的关系，促进防范风险、解决问题的同时要避免过度干预。

全国人大代表、中华全国律师协会副会长刘守民认为，立法既要对人工智能的发展起到引领作用，也要对其发展目标、路径和阶段进行规制。全国人大代表、湖北得伟君尚律师事务所首席执行合伙人蔡学恩则表示，“目前更需要有利于人工智能发展和创新的环境。”在他看来，人工智能领域立法必须综合考虑各方面利益，谨慎出台相关规则，不宜过早从全行业角度对人工智能进行过度的法律干预。

有代表建议，把创新与安全作为人工智能立法的两大核心价值，并就广泛涉及人工智能的领域或重点领域先行立法。比如，杨杰建议在智能机器人、智能设备、智能运载产品等应用广泛的领域率先启动立法工作。全国人大代表、北京市律师协会会长高子程指出，人工智能涉及的领域众多，前期可以在交通、医疗等重点领域先行试点专门立法，总结经验后再进行综合系统立法。

人工智能相关立法具体应涉及哪些方面？有学者认为，目前阶段防范人工智能的法律风险应当把握好人工智能与个人隐私权的保护、人工智能与法律伦理困境、人工智能与侵权责任三个方面的尺度。邵志清认为，对人工智能的应用管理进行立法，应重点围绕伦理道德、资源获取、主体认定、行为认定和责任划分等方面进行。其中，道德伦理方面要明确禁止应用人工智能技术实施违反人类伦理道德的行为，特别是在基因工程、生命科学、情感意识等方面。“用法律为智能社会划出伦理道德的边界，让人工智能服务造福而不是困扰危害人类社会。”

据了解，全国人大教育科学文化卫生委员会2018年12月赴湖南开展新一代人工智能和科技创新发展专题调研。相关工作人员表示，人工智能的发展涉及多方面问题。对于如加强产学研用有机融合、攻克关键核心技术等科技创新发展中面临的共性问题，可以在科技进步法修改调研工作中统筹考虑；对于新一代人工智能对现有科技工作格局可能带来的冲击和挑战，或推动人工智能与经济、产业、社会等各方面紧密结合等方面，还需要开展针对性调研，确定关键性问题后选择恰当的立法模式。

来源：中国人大手机客户端

请扫码下载“中国人大”手机客户端