纵观资讯 纵观资讯

当前位置: 首页 » 实时追踪 »

南财倡议:加强无障碍功能权限管理 防止AI智能体作恶

文/南财竞争秩序场课题组

技术总是包裹着甜美的糖衣,等服下才后知后觉感受到苦涩。AI Agent(智能体)正是如此。 

前阵子Manus的爆火,使得AI Agent(智能体)的概念从实验室走入了大众视野。与聊天机器人不同,AI智能体不再是简单的输入和输出对话,而是长出了“眼睛”“耳朵”和“双手双脚”,能够看听读写,执行具体的任务。 

如果这么解释还是过于晦涩,看看自动驾驶就好了。Ta能够自动泊车、自动刹车,甚至可以完全接管汽车——感知环境、自主决策、落地执行,这正是智能体工作的典型模式。

而这种“自动驾驶”能力,如今也在手机上悄然生根。从2023年起,各个手机厂商争相为自家手机接入大模型,让手机长出了“大脑”,笨拙的语音助手升级成了更全能的智能体管家。宣传中,这些手机智能体能“一句话点2000杯咖啡”“一键取消会员续费”“群发微信红包”……用户无需在各类App间来回切换,手机智能体就能“接管”一切。

前段时间,我们实测了小米14ultra、荣耀Magic 7、vivoX2000、OPPO FindX7、华为Mate40、三星Galaxy25等6款AI手机。结果显示,虽然这些手机智能体还未实现“全自动驾驶”的理想形态,却在隐私安全上暴露出不少漏洞。其中,最令人担忧的是一项敏感权限的使用——无障碍功能。 

无障碍功能拥有系统级别的最高权限,它可以看到屏幕上的一切,包括银行卡密码、聊天记录等敏感信息,并替用户点击、长按、滑动屏幕,绕过不同App之间的隔离。它既是一张万能门禁卡,也是一双“上帝之手”。

更值得警惕的是,近年来不少黑灰产滥用无障碍功能实施信息窃取。刚过去的315晚会中曝光的数据黑灰产案件,宣称“拥有20亿条精准人群画像” ,扫描短视频下评论区的账号信息,乃至手机号和用户标签,与无障碍功能亦有一定关联。

那么,手机智能体在合理使用这双“上帝之手”吗?

来抛出几个比较关键的测评结果:

1、 除了华为,其余手机智能体均提到了无障碍功能。

测评看到,荣耀、小米、三星均在智能体操作过程中调用了无障碍功能。荣耀调用的场景是点外卖,小米调用的场景是打车,三星则是只要跟智能体对话就会打开无障碍功能。vivo系统输入法中嵌入了小v写作功能,只要用到vivo输入法,同意授权后,便会全程打开无障碍功能。

2、无障碍功能的使用比较混乱。

荣耀智能体结束任务后,无障碍功能会自动关闭;小米则是会持续打开,vivo输入法的无障碍功能亦是全程打开状态。

3、无障碍功能的管理比较分散。

一个App是否用到无障碍功能,可以在“系统设置—无障碍功能—已下载的应用”中查看。但作为手机原生应用,部分手机智能体没有出现在这一列表中,比如vivo和OPPO。 

4、授权提示还不到位。

在手机智能体执行任务的过程中,如果需要用到无障碍功能,荣耀和三星会默默调用,没有单独的通知同意;只有小米会事先弹出一条通知和同意的界面。vivo的情况较为特殊,尽管输入法的无障碍功能全程开启,但在回微信、写小红书文案时首次用到小v写作的话,系统还会跳出一条“一键识屏”的授权提示。

经过近十轮的测评,最直观感受是,目前手机智能体产品性能的迭代与合规存在差距,造成了诸多错位。

客观而言,无障碍功能是一项中立的技术,AI和无障碍功能的结合本身并非滥用,目前也有一定安全约束机制。

但是如果合规管理不到位,前互联网时代“隐私换便利”的故事是否会重演?

2023年的数据显示,全球超过40亿人拥有智能手机,中国的数字是约10亿人使用智能手机。根据Counterpoint的预测,到2027年,全球AI手机的渗透率将达到惊人的40%,出货量有望突破5.22亿部。手机智能体的时代正在加速逼近。

人们总是笃定技术进步的华丽叙事,却忽略了那些甜蜜的陷阱。AI智能体会让生活更加便捷,但我们不能在“自动化”之路上,遗失了最基本的安全感。 

在此,我们发出南财倡议,加强无障碍功能权限管理,提升无障碍功能调用透明度:

1、AI智能体如若调用无障碍功能,须列入无障碍功能列表

2、AI智能体首次开启无障碍功能时,应该有单独的弹窗提醒,充分告知风险,获取用户同意

3、调用无障碍功能时,在屏幕上实时显示“正在读屏和接管手机”等相关提示

4、提供随时关闭的开关,让用户能自行控制无障碍功能使用

5、如若用户高频关闭无障碍功能,需尊重用户意愿,自动关闭无障碍功能

6、探索建设智能终端与模型/Agent负责任交互的协议、接口和使用规范

未经允许不得转载: 纵观资讯 » 南财倡议:加强无障碍功能权限管理 防止AI智能体作恶