2024年10月30日，荣耀前CEO在其Magic7系列发布会上利用手机智能体成功下单2000杯咖啡，引发热议。
　　AI智能体让手机“一句话点2000杯咖啡”的同时，可能也侵犯了用户隐私。针对此类问题，中国软件行业协会及时出手，制定了相关标准。
　　据中国软件行业协会官网4月8日发布的消息，《移动互联网服务可访问性安全要求》团体标准（以下简称“团体标准”）已于近日发布，针对当前利用智能体等AI技术访问移动互联网服务引发的安全风险、用户权益保护等问题作出规范。
　　记者调查发现，部分手机厂商已经开始按照新标准要求填补安全漏洞，但仍有不少手机智能体仍然可以绕过相关安全权限，在用户不知情的情况下收集个人信息。业内认为，保护用户权益时不我待，行业健康发展尚需多方努力。
　　“无障碍”获取数据
　　在移动互联网领域，以“智能助手”为代表的AI智能体正在快速应用，用户通过自然语言指令即可操作第三方App、访问互联网服务，“一句话点2000杯咖啡”等AI自动化操作场景不断演化。
　　3月份，在上述团体标准没有出台前，记者体验荣耀、vivo、华为、苹果等手机时发现，只需唤醒手机智能体并下达语音指令，智能体就会自动打开微信、美团、滴滴出行、高德地图等第三方App，自动完成或部分完成点餐、打车、导航等任务。
　　手机智能体变身“贴心助理”的前提是接管用户的手机，这意味着用户需要让渡更多的个人隐私数据。
　　以点咖啡为例，用户发出“点一杯瑞幸咖啡”的语音指令后，部分AI智能体可以通过调用“识屏功能”，收集用户手机屏幕文本、图片内容等信息，然后通过模拟点击，绕过第三方App授权，直接点开App。点开App后，面对一个全新的手机界面，AI智能体又要重新识屏、决策、模拟点击、在搜索框里搜索，循环运作，直至最终选中用户所需的咖啡。
　　在这个过程中，手机智能体调用了手机的特殊敏感权限——识屏（即屏幕内容获取，又叫“一键识屏”“屏幕阅读”等）和模拟点击。这是AI“接管”用户手机，实现“自动驾驶”的关键所在。这两项权限都属于手机的“无障碍”功能。
　　“无障碍”功能原本是为残障人士打造的一项贴心服务，初衷是让他们得以像普通人一样使用智能手机，可以通过屏幕阅读“听”到屏幕上的内容，借助模拟点击让行动不便的人也能通过说话操作手机。
　　业内人士指出，因为可以代替用户操作手机，“无障碍”功能几乎意味着系统级别的最高权限。开启“无障碍”功能后，手机厂商（或App）能够监控整个系统的运行，得以完全控制手机，几乎可以“为所欲为”。
　　今年央视“3·15晚会”曝光的一些黑灰产“大数据获客软件”，正是通过“无障碍”权限窃取了上亿条个人信息。
　　记者体验发现，有的手机智能助手还需要用户授权开启无障碍服务，有的甚至已进化到更加“智能”的新阶段——在用户没有开启“无障碍”功能的情况下，也能通过智能体调用需要的识屏、模拟点击等功能。
　　北京知道创宇信息技术股份有限公司404实验室总监隋刚指出，当前手机厂商通过底层系统权限的预设设计，实质上绕过了用户对手机的控制权。即使关闭“无障碍”功能权限，手机智能体仍能操控手机执行操作，暴露出权限管理的“虚假防火门”问题。
　　“这一现象的核心问题在于手机厂商掌握操作系统、硬件固件及AI助手的全链条控制权，形成‘球场、球员、裁判皆属厂商’的垄断局面，导致用户和第三方应用厂商处于被动地位。”隋刚说。
　　隐私“裸奔”存在多重风险
　　以智能助手、AI识屏为代表的智能体提升了移动互联网服务的可访问性，为用户带来了便捷的使用体验，但带来的风险问题不可忽视。
　　“不少‘智能助手’依托AI大模型技术，通过系统层级无障碍服务，以‘读屏+模拟点击’的方式来实现各种自动化功能，引起了用户数据泄露风险、隐私保护缺失以及系统安全等问题。”中国软件行业协会指出。
　　“一旦用户交出手机控制权，手机屏幕上的所有信息就暴露无遗，包括个人身份、聊天记录、地址乃至密码框内输入的内容。再加上‘无障碍’服务的自动点击功能，风险很大。”北京市君益诚律师事务所合伙人杨子江说，“这就像是在手机上开了一个‘后门’，他人可以随便进出，也可以顺手牵羊。”
　　“风险还来自数据层面的失控。厂商通过手机端侧大模型与云、端协同，可以做到持续收集用户通讯录、行为习惯、定位、消费等敏感数据，构建个人画像并定制新一代的信息茧房。”隋刚说。
　　“更严峻的风险还在于数据聚合。”对外经贸大学法学院副教授、数字经济与法律创新研究中心主任许可认为，端侧大模型通过调用多个App权限，将用户行为轨迹、支付习惯、社交信息等分散数据整合为精准画像，形成远超单一应用风险的“聚合风险”。
　　许可说，手机厂商自身不掌握数据，需要依赖第三方App获取用户数据，有时还涉及第三方大模型公司、云服务企业等众多主体。跨多个主体的信息汇聚与数据流动，让各方在用户隐私保护和数据安全上的责任关系难以区分，导致实际监管中存在盲区。
　　杨子江说，厂商上传至云端的加密数据流向与用途难以追踪，现有法律难以对其形成有效约束。比如，用户支付习惯、应用使用偏好等数据被调取后，是否构成侵权需依赖具体技术细节判定，但消费者与监管部门均难以获取相关信息。
　　团体标准破冰期待多方协同
　　针对上述问题，本次发布的团体标准作出了相应规范，具体包括：
　　一是禁止滥用无障碍服务。应谨慎为智能体等AI技术开通无障碍服务，开通无障碍服务必须经过用户明确授权；应在隐私政策中声明无障碍权限的使用目的、使用场景和数据处理方式，仅在声明的目的范围内使用无障碍服务，不得将无障碍服务用于其他目的。
　　二是保障用户权益。智能体进行用户意图识别、通过第三方App执行各类任务时，不得侵害用户及其他主体的数据权益；应向用户明确告知收集的数据将如何处理，不得未经授权收集和处理数据，涉及向第三方共享数据、将用户个人信息上传云端处理的需额外说明。
　　三是双重授权。智能体等AI技术进行用户意图识别、通过第三方App自动执行任务，应遵循“双重授权”原则，即先通过第三方App授权，并在获得用户授权后执行。
　　四是禁止利用系统权限优势，干扰第三方App运行。操作系统不得利用系统权限优势，在第三方App授权前获取第三方App数据，调用第三方App功能，干扰第三方App正常运行。
　　杨子江认为，该标准的四项措施中，最关键的是第三项“双重授权”中的“通过第三方App授权”，这是新的有针对性的规范。第三方App承担着对用户的数据权益、个人信息等的保护职责，也最了解其自身运行逻辑，对其是否可被无障碍权限调用，有能力也有责任来做评估。“如果这一条落实，在保障行业秩序方面，将起到巨大作用。”
　　4月8日，记者体验发现，部分手机厂商已经开始按照新标准要求填补安全漏洞。比如，在上述团体标准没有出台前，即便“无障碍”设置项的所有功能都关闭，荣耀、华为、苹果、vivo等手机都能完成发微信给好友的任务，如今，一些品牌的手机已无法通过AI智能体自动发微信。
　　但是，许多品牌的手机AI智能体，在用户没有开启“无障碍”功能的情况下，依然可以在用户下达语音指令时，自动打开美团、百度地图等第三方App，在App内的搜索框里搜索商品或目的地，完成点餐、导航等任务的大部分操作。
　　杨子江提到，团体标准多是法律规范在新业态的具体落实，即便没有明确的上位法律对应，也很可能被作为商业惯例或商业道德，成为定分止争的重要参考因素。不过，在执行上，团体标准没有法律强制力，对于违反团体标准的行为，仍然需要由执法部门、司法部门或消费者组织等，依据法律做出判断。
　　“由行业协会主导的标准，更多的是一种倡议，对企业的实质约束力较弱。”隋刚认为，还是需要相应的监管部门牵头，带动头部企业，在听取采纳各方的意见之后，形成合力确定行业标准。“对于行业健康发展而言，监管指导和企业共识缺一不可。”
　　规范是为了更好地发展。为了鼓励科技创新，避免行业“一抓就死”，业内认为监管部门在制定下一步政策时也需要充分听取各方意见，通盘考虑。“由于涉及的是一个新兴的技术领域，技术的发展又是动态变化的，总有一些规范规则不适用于新的情形，因此要伴随式地补足完善。”隋刚说。
（文章来源：上海证券报）