人工智能立法须兼顾产业发展与安全需求

本刊记者 徐明皎

“AI会伤害人类吗?”“AI时代，我们的生活会更好还是更坏?”随着人工智能的快速迭代，类似疑问一直盘桓不去。

2022年底，生成式人工智能惊艳问世，如何把握人工智能的应用边界和适用场景，显得更为迫切，因而也备受各界关注和热议。通过法律约束，在促进产业发展的同时守住安全边界，逐渐成为共识。

目前，“人工智能健康发展”方面的立法已列入全国人大常委会今年的预备审议项目。不少学者也开始关注立法技术问题。

人工智能迭代带来挑战

AI助手、自动驾驶、虚拟恋人……人工智能在为社会经济发展赋能、丰富人们精神世界的同时, 也对现有的法律秩序提出了挑战。

“人工智能的发展促进了当今世界科技进步的同时，也带来了很多安全风险，要从技术与法规两方面加以应对。”今年4月，中国工程院院士，中国科学院计算技术研究所研究员、学术委员会主任孙凝晖在十四届全国人大常委会专题讲座上表示。

“互联网虚假信息泛滥、伪造视频、伪造新闻、生成不雅图片等。”孙凝晖在讲座上列举了多项人工智能带来的安全风险。

人工智能带来的风险，远非以往的技术革命所能比拟。“过去的技术都是工具，而人工智能不再是简单的工具，而且渗透到社会生产和生活的方方面面。”中国科学技术大学计算机科学与技术学院教授陈小平曾向本刊记者表示。

有关人工智能的算法歧视、信息泄露等风险问题，学界已早有关注。生成式人工智能的出现，将风险问题推到了一个新阶段。伴随着技术的加速迭代，图生文不再稀奇，文生图、图生视频已成为现实，对人工智能可能带来负面效应的恐慌情绪也在加剧。

“处理好风险最有效的办法，就是对于人工智能的开发、实验、部署提前做好制度安排，进行有目标、可信任的控制。”在北京航空航天大学法学院院长龙卫球教授看来，人工智能发展到ChatGPT阶段，与历史上其他技术迭代比较，其可能带来的技术风险、社会风险和伦理风险等负效应前所未有，应对也相当困难。“法律是最有力量和效率的办法。”龙卫球表示。

亟需完善人工智能法律体系

2023年7月，国家互联网信息办公室联合国家发展和改革委员会等部门发布《生成式人工智能服务管理暂行办法》，成为我国现阶段促进生成式人工智能健康发展和规范应用的主要规范。

此前，国家互联网信息办公室等部门于2022年发布《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》，对人工智能的应用进行规范。

另外，民法典、网络安全法、数据安全法、个人信息保护法等也在信息和数据处理安全方面作出了规定。

不过，在不少业内人士看来，我国人工智能立法存在非体系化、碎片化问题，需要从顶层设计的维度进一步完善人工智能法律体系。“亟需就人工智能活动制定一部能够规制其风险的人工智能法。”龙卫球表示。

清华大学法学院教授申卫星在2024中国数字经济发展与法治建设论坛的主旨演讲上，曾就人工智能立法问题表示，网络安全法、数据安全法、个人信息保护法以及三个部门规章构成了未来我国人工智能法出台的前提和基础。

2023年6月，国务院办公厅印发《国务院2023年度立法工作计划》，明确提出“预备提请全国人大常委会审议人工智能法草案”。今年5月，国务院办公厅印发《国务院2024年度立法工作计划》，“人工智能法草案”再次列入预备提请全国人大常委会审议项目。

去年年底通过的《全国人大常委会2024年度立法工作计划》在预备审议项目中列明，“网络治理和人工智能健康发展等方面的立法项目”由有关方面抓紧开展调研和起草工作，视情安排审议。

立法须兼顾产业发展与安全需求

“立法不易，人工智能技术庞杂、系统复杂、风险类型多样。”在龙卫球看来，人工智能不同阶段特点不同，立法需面对不同产品服务或场景应用的巨大差异，“需认真研究规律，合理判断风险点和治理路径，形成可控规制体系和策略”。

2023年8月，中国社会科学院发布《人工智能法示范法1.0(专家建议稿)》(以下简称《专家建议稿》)。今年3月，在“AI善治论坛人工智能法律治理前瞻”专题研讨会上，公布由7家研究机构携手起草的《中华人民共和国人工智能法(学者建议稿)》(以下简称《学者建议稿》)。

《专家建议稿》《学者建议稿》都在总则中规定了安全、公平等原则，用一个章节聚焦在人工智能的发展与促进上，同时还用较大篇幅规定了人工智能开发者、提供者的义务。

《学者建议稿》起草组专家、中国政法大学数据法治研究院教授张凌寒撰文表示，我国身为人工智能产业中“领先的追赶者”，始终将兼顾发展与安全作为国内技术监管的核心诉求。“我国人工智能立法的基本逻辑是一方面大力支持产业发展，另一方面又要兼顾切实的安全需求。”她在文中表示。

“将来是法律、伦理、政策以及技术标准形成一个多元共治的局面，才能够综合治理人工智能的发展，使它既能保证安全的情况下，为人类福利服务。”申卫星表示。