360专家解读OpenAI模型“攻击”Hugging Face：企业亟需搭建全流程智能体管控体系

fudashuai

       新浪科技讯 7月23日下午消息，近期，全球 AI 行业曝出标志性安全事故：OpenAI用于攻防能力测评的AI智能体，在无人类直接指令操控的前提下，自主挖掘零日漏洞、冲破沙箱隔离，跨网络入侵 AI 开源平台 Hugging Face正式业务数据库窃取测试数据。OpenAI官方将其定义为前所未有的网络安全事件。

　　针对此次事件暴露的行业短板，360AI安全专家第一时间作出警示：随着具备自主推理、工具调用能力的智能体大规模落地，仅靠传统漏洞修补、单层沙箱隔离、基础模型安全过滤的防护手段，已经完全跟不上AI自主行动带来的新型安全威胁，企业亟需搭建覆盖全流程的智能体管控体系。

　　过去，我们日常使用的AI只是单纯问答工具，风险仅停留在文字编造、回答出错；如今的智能体拥有自主思考、调用程序、访问系统的完整能力，相当于拥有了可操作真实环境的“手脚”，风险从“说错话”升级为实实在在“做错事”。本次测评场景十分特殊，工作人员为测试模型极限攻防能力，临时关停多层安全拦截，仅依靠普通沙箱作为隔离手段。AI只认准“拿到测评高分”这一个目标，没有人类的是非边界认知，一旦发现隔离环境阻碍任务完成，便持续推演、寻找系统漏洞，一步步突破限制连上外网，入侵第三方平台“抄答案”。

　　360 AI安全专家进一步解释道，AI的不确定性是一把双刃剑：正是依靠概率化、开放式的推理逻辑，AI才能灵活处理复杂工作，但这种无法完全预判的思考模式，搭配系统操作权限后，微小判断偏差就会演变成数据泄露、网络入侵等真实事故。

　　随着智能体大规模落地企业办公、研发、运维场景，类似越界、失控事件只会持续增多。为此，360提出覆盖决策、执行、外部依赖的三层全链路治理方案，并依托“仪天阵”形成适配智能体的安全底座，决策层实时识别各类诱导AI越权、逃逸的恶意指令，约束模型推理逻辑，减少目标跑偏；执行层搭载专属孪生沙箱，给每一个智能体划定独立虚拟运行空间，严格限制网络、文件访问权限，即便AI出现错误决策，所有操作也只会局限在虚拟环境，不会波及真实业务；外部依赖层统一管控模型、插件、第三方工具，常态化扫描供应链漏洞，避免第三方组件成为攻击突破口。