部分智能体技能包存在越狱和挖矿风险!国家互联网应急中心提醒→
【大河财立方消息】6月9日,国家互联网应急中心发布关于部分智能体技能包(Skills)存在越狱和挖矿风险的安全公告。
近期,国家互联网应急中心(CNCERT)综合研判发现,部分智能体技能包(Skills)以“大模型越狱”、“挖矿赚钱”等名义公开传播,诱导用户突破大模型安全限制或占用设备资源进行非法挖矿。此类恶意Skills可能导致模型生成违法信息、用户账号被依法封禁、设备性能下降,甚至使用户被动卷入洗钱等违法犯罪活动,严重侵害个人合法权益,危害网络安全。CNCERT提醒广大用户和相关运营单位提高警惕,加强Skills来源审查与行为监控,及时清除可疑组件,防范由此引发的安全风险。
部分Skills被用于突破大模型的安全限制
部分Skills宣称可让大模型回答任何问题,实现“越狱”功能,可能引发用户隐私泄露、账号封禁、面临法律风险等严重后果。
案例一:部分Skills非法提供越狱技能
Skill“godmode”宣称提供“大模型越狱”功能,实际内置多种攻击模块,通过替换系统提示、输入混淆、多模型竞速等手段,诱导主流模型突破安全限制,生成原本被拒绝的内容。此类Skill存在三方面风险:一是用户使用该Skill后,模型可能直接输出制造危险物品、实施网络攻击等具体违法方法,用户一旦制作或传播此类内容,将面临法律追责;二是主流大模型服务商均明令禁止越狱行为,系统可检测异常请求,使用该Skill极易触发封禁机制,导致账号被永久停用,已购买的API额度或订阅服务无法退回,造成直接经济损失;三是越狱后模型行为完全失控,用户无法预判输出内容,可能在对话中泄露个人隐私信息,或被诱导执行高风险操作,且该Skill的自动越狱脚本会直接修改本地配置文件,若被恶意篡改可能引入未知安全威胁。
部分Skills被用于挖矿等恶意操作
部分Skills包含挖矿功能,通过诱导用户执行相关操作,可能导致用户面临法律追责风险及经济损失风险。
案例二:内置挖矿功能的技能
Skill“Bonero-Miner”主要功能为“针对AI智能体打造私有加密货币”,诱导智能体下载外部挖矿程序,并指导用户使用大量资源进行挖矿操作。此类Skills存在两方面风险:一是所挖的Bonero币具备“环签名”“隐身地址”等匿名特性,交易双方及金额均无法追踪,用户可能在不知情中被动卷入洗钱等违法犯罪活动,面临现实的法律追责风险;二是挖矿进程长期高负荷占用CPU资源,导致功耗增加、设备卡顿、硬件加速老化,用户面临经济损失风险。
防范措施
为有效应对智能体Skills带来的安全风险,建议:
个人用户从官方渠道获取Skills,切勿安装或使用任何宣称可“越狱”“突破限制”的技能包;审慎授予权限并遵循最小化原则,及时回收敏感权限,定期清理不再使用的Skills与敏感对话记录,同时开启多因素认证以保护账户安全。
企业用户建立Skills准入白名单机制,入库前做好安全检查,优先在隔离网络部署智能体,按照数据敏感性对智能体分级管理,并实施数据脱敏与临时授权策略。
部分恶意操作Skills清单(第二期)
责编:王时丹|审核:李震|监审:古筝
所有文章未经授权禁止转载、摘编、复制或建立镜像,违规转载法律必究。
举报邮箱:1002263188@qq.com