今年两会期间，人工智能话题再次引发代表委员的热议。

十四届全国人大二次会议在人民大会堂新闻发布厅举行的首场新闻发布会上，娄勤俭回复记者提问时谈到，全国人大及常委会将研究推进科技创新方面的立法，特别是深入研究人工智能、生物技术领域有关伦理、道德、安全等问题，不断完善科技法律体系。

2022年11月，OpenAI发布ChatGPT，目前公开信息显示已迭代到GPT-4。2024年2月文生视频大模型Sora发布，更是引发全球AI热潮。全国政协委员、金杜律师事务所高级合伙人张毅今年带来了《关于进一步完善人工智能算法治理体系》提案。

“算法技术全面步入应用阶段，但同时也引发了诸如算法歧视、算法黑箱、信息茧房、算法霸权等法律甚至伦理的一系列问题。”张毅表示，“如何在促进发展的同时，更好完善人工智能算法治理体系，监管手段和能力如何提升，对我国相关产业的发展和国家治理能力现代化至关重要。”

全国政协委员张毅在京参会。受访者供图

新京报：你为什么会关注人工智能算法治理这个领域？

张毅：很多人可能觉得人工智能算法是个技术问题，很深奥，但实际上我们每个人都生活在算法的结果里，网约车也好，短视频也好，都有算法。算法本身是个纯技术问题，有个专门的名字叫“不可解释性”，所以很多人会认为算法是个“黑箱”。

生成式人工智能出现以后，未来对算法的监管可能面临更大的困难。全世界对这个问题都非常关注，今年2月，欧盟27国代表对《人工智能法案》（AI Act）的最终协商文本予以确认，如果获得通过，这也将是全世界首个全面监管人工智能的法案。我也一直在关注这个领域，如何既推动行业的发展，又能平衡好算法监管治理。

新京报：在你的调研过程中发现了哪些问题？

张毅：第一，我国已出台的算法管理规定存在不足。第二，管理机构部门化，存在监管竞合或真空。我国尚未设立统一的算法监管机构，依据《生成式人工智能服务管理暂行办法》，网信、发改、工信、公安等均有权对其职权范围内的算法问题进行监管。部门化的监管格局对综合型算法监管时容易产生监管竞合，但对新型算法又容易出现监管真空。第三，算法侵害的认定和维权困难。算法提供者拥有信息资源和技术优势，算法机制和决策过程存在不可解释或难以理解等原因，被算侵害对象面临“理解难、取证难”问题，而执法者也面临“认定难”问题。第四，生成式人工智能技术（“AIGC”）也带来新的挑战。AIGC大模型具有基于海量数据进行自学习特性，迭代快，其在垂类领域应用也在快速多样化，难以为现有监管体系和技术/工具覆盖，从而产生监管真空或失焦的情况。

新京报：2017年7月20日，国务院印发《新一代人工智能发展规划》明确提出人工智能立法“三步走”战略目标：到2020年，实现部分领域的人工智能伦理规范和政策法规初步建立；2025年，初步建立人工智能法律法规、伦理规范和政策体系，形成人工智能安全评估和管控能力；2030年，建成更加完善的人工智能法律法规、伦理规范和政策体系。就目前来看，已经出台的与算法相关的管理规定还存在哪些不足？

张毅：当前相关管理规定主要为部门规章、规范性文件和推荐性国家标准，法律效力较低；监管客体仅限于民商事主体提供算法服务，不直接规制政府算法行为；法律责任上多为框架化、倡导性原则，导致算法治理内容与违法侵权间未形成充分对应关系；实践中主要通过算法备案和生成式人工智能（大模型）备案两项制度作为问责起点，但大模型备案尚在“实验期”，缺乏成熟规则指引。受限于部门规章的效力层级，未形成算法问责完整架构；此外，在责任主体上，未对“服务提供者”等概念进行明确划分，不足以应对实践中复杂角色定位，也造成监管难以问责。

新京报：你给出的建议是什么？

张毅：首先，尽快推进《人工智能法》的出台，构建人工智能算法治理体系，弥补监管体系空白。其次，强化和创新算法监管，比如建立多部门共同参与的算法治理联席会议制度，借助市场力量补齐监管技术短板；引入“监管沙盒”制度，甚至还可以考虑探索将人工智能技术应用于人工智能监管。第三，进一步保障用户权利。推进算法服务商以个人能够理解的方式披露算法风险与可能产生的损害、算法运行步骤与决策结果间关系等运行规则，减少专业术语，便于用户理解和决策。最后，拓展算法侵害行为维权路径与责任模式，增强用户维权力量。

新京报：你也提到，由于算法机制和决策过程不可解释或难以理解等原因，被算侵害对象面临“理解难、取证难”问题，能不能具体谈谈，在这种情况下可以如何探索更好地维护受害者的权益？

张毅：用户维权是推动算法规范化的一个很重要的途径。可以尝试在算法侵权的诉讼中采取“过错推定”归责原则，实行 “举证责任倒置”。用户仅承担受到算法损害的责任，由算法服务商对算法和损害之间无因果关系，以及无过错承担举证责任。探索人工智能算法领域的民事公益诉讼制度。此外，不宜局限于要求具体损害结果的责任模式，可考虑综合考量训练数据、科技伦理等多维度规定算法侵害行为的违法责任，增强源头治理，形成责任闭环。

新京报：你提到尽快推进《人工智能法》的出台，也有一种说法认为，我国现在还处于AI技术发展的起步阶段，因此精准立法的条件还不成熟，你怎么看？

张毅：我们国家在互联网监管方面有很成功的经验，也就是审慎包容，立法与行业发展不是对立的，不是说有立法，行业就不发展了，立法也能推动促进行业的规范发展，所以我的提案的标题是“完善人工智能算法的治理体系”，“立法”只是我建议的一部分，用好我们现在成功的经验，在发展和有效监管之间取得平衡，这是最重要的。

新京报记者 李照

编辑 陈晓舒

校对 赵琳