构建科学有效的算法治理体系护“未”成长

本刊记者 焦艳 白楚玄

在数字时代的浪潮下，个性化算法推荐正深刻重构青少年的学习与娱乐方式。从短视频平台精准推送，到教育类App智能适配，算法在为未成年人创造便捷体验的同时，衍生出诱导沉迷、信息茧房等新型风险。构建科学有效的算法治理体系，护航未成年人数字未来，成为保护未成年人网络安全的重要课题。受访的专家学者指出，破解难题需法治监管与素养教育双轨并行，共同构筑未成年人数字世界的安全屏障。

未成年人易受算法侵害

“AI比真人更体贴”“Ta完全符合我对恋人的所有想象”……当前，AI模拟恋爱聊天软件通过所提供的“虚拟恋爱”等新奇体验，对于好奇心重、模仿能力强的未成年人来说极具吸引力。2024年10月，美国发生一起引发全球关注的诉讼案：一名母亲指控某AI公司通过“拟人化、过度性化”的算法设计诱导其未成年子女沉迷虚拟恋爱对话，最终导致悲剧发生。

中国政法大学教授郭旨龙认为，该类案件暴露了算法治理的全球性难题——沉迷“当AI以‘完美伴侣’介入未成年人情感世界时，其背后的数据收集、模型训练和推荐逻辑可能直接威胁青少年身心健康。”

目前，不乏未成年人在算法推荐下通过交友软件、链接而遭遇网络侵害的案事例。《2023年网络性侵未成年人全球风险评估报告》显示，社交游戏平台上的对话可以在短短19秒内从第一条信息发展成为高风险的诱骗事件，凸显了算法推荐与未成年人网络侵害的高度关联。

“无论未成年人还是成年人，皆已自愿或被动地裹挟于算法推荐之中。”中国传媒大学教授王四新强调，对于未成年人而言，算法呈现出一种“二律背反”的困境。“平台本应提供适宜内容，却因无法有效区分或者为实现商业目的，导致青少年被精准营销却缺乏足够保护。”王四新说。

法治监管建好制度堤坝

面对算法对未成年人可能带来的潜在威胁，目前我国算法治理框架与未成年人网络保护法治建设方面初具雏形。业内人士表示，当前我国已逐步构建起一个覆盖法律规则、执法行动与常态化监管治理体系。

在法律规则层面，我国有《互联网信息服务算法推荐管理规定》《生成式人工智能服务管理暂行办法》《互联网信息服务深度合成管理规定》《科技伦理审查办法(试行)》等涉及算法的法律法规，对生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术进行了规范，同时明确要求算法推荐服务提供者应定期审核、评估、验证其算法机制、模型、数据及应用结果，确保不设置任何诱导用户沉迷、过度消费等违反法律法规或违背伦理道德的算法模型。

对涉及未成年人的保护方面，《未成年人网络保护条例》对内容分类管理、适龄提示、有害信息过滤等作出规定，旨在从源头减少不良信息对未成年人的影响，为未成年人营造健康的网络环境。2024年11月15日，国家网信办发布《移动互联网未成年人模式建设指南》，升级目前“青少年模式”为“未成年人模式”，进一步促进企业平台在时间管理、内容审核、功能设计三个方面实现重要改进。

在执法行动层面，通过积极开展算法综合治理专项行动，切实保障未成年人的合法权益。2024年11月，中央网信办、工信部、公安部等四部门发布《关于开展“清朗·网络平台算法典型问题治理”专项行动的通知》，要求进一步深化互联网信息服务算法综合治理，专项行动要求增强算法向上向善服务保护网民合法权益，持续优化完善面向未成年人的算法推荐服务，便利未成年人获取有益身心健康的信息。

从常态化监管来看，2022年3月1日上线运行互联网信息服务算法备案系统，定期分批公布算法备案信息，并要求通过算法备案的平台进行算法公示。业内专家认为，备案制度一定意义上倒逼算法推荐服务提供者积极进行风险评估和全流程记录，促进执法机关监督算法活动。

多方共筑免疫屏障

网络空间治理面临艰巨而复杂的挑战，技术迭代会不断产生新情况、新问题，加大了治理难度。受访人士认为，除了加强对算法推荐的规制管理，更需要帮助孩子建立“数字防护盾”。互联网平台应当建立青少年模式的“防火墙”，家长和学校也要教会孩子识别算法推荐套路，共同提升青少年在网络空间自我保护能力。

中国青少年研究中心青年发展研究所副所长张晓冰认为，很多未成年人在面对算法推送的信息时，缺乏辨别能力，容易被误导、被诱导。不少未成年人可能会盲目相信算法推荐的内容，陷入信息茧房，无法接触到多元的观点与知识;也可能会在算法设计的成瘾机制下难以自拔，对自身成长造成负面影响。

张晓冰建议，学校应将数字素养教育纳入课程体系，开设专门的课程或讲座，向学生普及算法的基本原理、运行机制以及潜在风险。通过案例分析、实践操作等方式，引导学生辨别信息真伪，理性对待算法推荐，避免沉迷网络。

家庭教育的协同作用不容忽视。中国青少年研究会副秘书长孙宏艳在调研中注意到，若家长支持孩子适度上网，沉迷网络的比例只占2%左右;若严格管理或放任不管，未成年人网络沉迷的比例将大幅提升。

多位受访专家认为，未成年人算法治理是一项系统工程，法治监管与素养教育相辅相成，缺一不可。北京数字经济与数字治理法治研究会副秘书长梁伟亮指出，算法问题不应孤立看待，法律规制不应仅关注单个算法，应考虑数字生态中的联动关系。

北京航空航天大学法学院副教授赵精武表示，现阶段，多维度治理人工智能技术应用已成为社会共识，除了传统意义上的监管机构介入，家长、学校、平台协同保护之外，还需要行业协会等社会机构形成良好的商业惯例，提前设置未成年人特殊保护机制，比如严格落实实名制、增设风险提示等。