法治日报全媒体记者 赵颖

2月15日，由21世纪经济报道、南财合规科技研究院主办的“AI手机隐私危机：新秩序中的安全挑战与抉择”学术交流会在北京举行，探讨AI手机时代面临的隐私挑战。

AI如何装进手机：两张地图

要理解AI手机如何运作，要从两张“技术地图”开始：端侧AI与云侧AI。端侧指的是AI在手机等终端设备上进行计算和处理，响应快、隐私保护能力强、网络依赖性低。

中国法学会网络与信息法学研究会常务副秘书长周辉认为，端侧AI理论上能够最大限度地减少数据传输，避免用户敏感信息被上传至云端。如果管理到位，这是一种“更私密”的解决方案。

相较之下，云侧AI依托强大的云计算资源，能提供更强的性能，但数据必须频繁上传云端，隐私暴露的风险随之上升。

南财合规科技研究院院长、21世纪经济报道总裁虞伟说：“在此前实测中发现，尽管手机厂商都宣称自己具备端侧AI大模型能力，但普遍的AI功能仍依赖云侧大模型。端云协同中，用户与模型交互数据密切，较多涉及个人隐私。”

北京尚隐科技有限公司CEO张仁卓任认为，纯端侧的模式能在本地处理用户数据，安全性较高。但其风险是，在第三方App介入时，隐私保护的边界往往模糊不清，容易引发数据滥用或过度采集的问题。当前的主流模式依然是端云配合，即将数据处理分散到本地与云端。 

如果接入第三方AI，情况会更复杂。第三方AI模型通常需要访问大量用户数据，增加了数据泄露的可能性。数据在端侧、云端和第三方AI之间的流动复杂，责任分配不明确，出现问题后难以追责。

AI如何代操作：一把钥匙

无论技术路线如何，要让AI智能体操作手机，部分厂商依赖一把万能钥匙：无障碍权限。

北京汉华飞天信安科技有限公司总经理彭根介绍，无障碍权限原本是为方便残障人士使用手机而设置的特殊功能，涵盖视觉、听觉、肢体残疾辅助等多方面功能，比如可以监控屏幕内容，模拟用户进行点击、滑动、输入等操作，帮助残障人士使用手机。

无障碍权限能够打破各个App之间的隔离机制，具有极高的权限，彭根称之为手机里的“上帝模式”。

可以想象，“上帝模式”也容易被不法分子滥用为窃取用户信息的工具。

尽管启用无障碍权限时手机系统会有提醒，但这些提醒通常只有一次，而且警告内容模糊，用户很难真正理解其潜在风险。一些AI手机自带的内置应用权限高于普通App权限，且难以察觉其运行状态。

于是，一个两难困境正在出现：无障碍权限的本意是去障碍，更好地辅助残障人士使用智能手机，但便利带来更大的危机，AI手机的隐蔽式调用可能让安全和隐私陷入危险。

彭根坦率地说，目前针对无障碍权限带来的风险，还没有完善的防御方案。建议用户保持警惕，关闭非必要权限，定期查看手机权限功能列表，防止安装第三方应用形式的智能助手等，尽可能地降低风险。

AI隐私风险：三个背景

中国信息通信研究院互联网法律研究中心主任何波表示，人工智能是引领这一轮科技革命和产业变革的战略性技术，相关产业正在向多智能融合新阶段发展，成为发展新质生产力的重要引擎。

何波认为，现有法律法规对于AI手机隐私保护已有相关规定。例如，网络安全法、数据安全法、个人信息保护法明确规定了处理个人信息的要求；2025年1月1日施行的《网络数据安全管理条例》进一步对涉及自动化工具、生成式人工智能等新兴技术的数据处理活动作出了特殊规定，这些都可以作为AI手机的监管依据。但与此同时，AI手机涉及主体众多，数据在不同主体间流动，导致各环节责任难以区分，存在监管挑战。

“与以App为抓手的隐私保护不同，AI手机行业生态更为复杂，涵盖手机终端、第三方大模型、App以及云服务等参与方，各方在数据安全上的责任关系不明确。”虞伟说。

北京大学政府管理学院教授马亮认为，AI手机带来的另一大新挑战是市场竞争秩序的变化，厂商和App将为用户权限展开激烈争夺。当前亟需形成共识，探索合理的权限治理模式。

对外经济贸易大学数字经济与法律创新研究中心主任许可表示，AI智能体在手机中的重要作用日益凸显，决定了资源的调配方式，可能改变传统的App主导模式。如果未来某些AI模型在市场上占据主导地位，可能会给市场竞争带来新挑战。

此外，AI智能体逐渐成为智能生活的核心中枢，如何在AI能力超越人类的情况下，始终让AI Agent以服从人类命令为前提工作，保持人类的主体地位？当我们与AI越走越近，或许更应该思考以人为本的路径，这一问题亟待在制度和伦理层面进行思考。