智能体也要「上户口」: 企业级AI智能体的身份、权限与审计三道关
一 乌镇峰会上,治理成了主话题
11月4日到5日,世界互联网大会乌镇峰会专门设了一场「智能体互信互联互操作」论坛。20家单位联合签署《智能体发展自律公约》,第一条就要求给智能体建立分层次、可验证的身份标识,配套的智能体身份注册与解析平台同步发布。给智能体「上户口」这件事,正式摆上了台面。
邬贺铨院士在会上给了一组参照:国内智能体已经能拆解20步左右的任务,智能体之间互相调用、协作的数量可以做到60个。他也把话说得很直白——生成出来,不等于可用、可信、安全。
政策层面其实早就铺了路。今年5月,网信办、发改委、工信部三部门联合印发《智能体规范应用与创新发展实施意见》;市场监管总局同期批准《人工智能 智能体互联》系列7项国家标准,覆盖身份码、身份管理、发现、交互、工具调用。标准落地之后,「这个智能体是谁、能碰哪些数据、做过什么」就从技术细节变成了采购环节要交的材料。三道关答不上来的方案,现在很难过会。

二 风险换了形态:从说错话到做错事
企业里的智能体越用越多,风险的形态也跟着变了。幻觉从「说错话」升级成「做错事」——以前顶多答错一个数,现在可能直接改错一张订单。自主性带来越权操作和工具滥用:智能体手里有了接口和权限,一次误判就够把内部文件发出去。多智能体互相调用之后,还有级联失效的问题,A 错了 B 跟着错,回头追责,谁都说不清是哪一环出的手。
办公场景里,数据泄露通常走三条路:调用外部模型接口或第三方 Skills、MCP 时数据出界;读到的网页和邮件里藏着指令,智能体照做;或者误判用户意图,把不该发的文件发了出去。这三条路里没有一条需要黑客,全是流程没设防。
三 三道关:身份、权限、审计
把这些风险管住,落到实操就是三道关。
▪ 身份关:一个智能体一个身份码,可验证、可注销。它接了哪些系统、以谁的名义在操作,得能一句话答上来。有了身份,出了事才知道找谁,下线了也能注销干净。
▪ 权限关:最小权限是底线,智能体只拿完成任务必需的数据和接口;不同职级看到不同的回答范围;删库、停供、对外发函这类高危动作,必须留一道人工确认。
▪ 审计关:每一次访问、每一次工具调用都要留痕,事后能回放整个过程;发现异常能一键叫停,叫停之后业务还得能兜底恢复。审计光有日志没用,要能回答「它当时为什么这么做」。
四 一份可以直接抄的治理台账
治理不用一步到位,一张台账就能起步。字段不用多:智能体名称、负责人、接入系统、可读数据范围、可执行动作、审批人、熔断阈值。每个上线运行的智能体登记一行,季度复核一遍,过期下线的及时注销。
这张表的价值在于把模糊的责任变明确。多数企业的现状是智能体已经跑在流程里,但没人说得清一共几个、谁在管。先把家底盘出来,后面的权限收敛和审计才有对象。
五 三个常见的误区
▪ 误区一:把治理当成验收后补的文档。上线前没人问,出了事再翻材料,什么都晚了。治理方案应该在选型阶段就进场,和功能演示一起过会。
▪ 误区二:以为内网部署就等于安全。数据和模型确实留在了内网,但智能体的权限没收敛,照样能在内网里越权乱动。
▪ 误区三:只审模型输出,不审工具调用。模型说的话有人看,调了哪个接口、改了哪条数据没人管,风险恰恰藏在这一头。
六 小艾在这块的做法
这些要求看着繁琐,在工程上都有对应的解法。小艾智能体(上海艾艺数字技术有限公司自研的企业级AI 智能体与知识管理平台)的做法是:全组件私有化部署,敏感数据不出内网;基于 LangGraph 的显式图结构让每一步执行可回放,Checkpointer 支撑中断续跑与人工接管;统一账号体系承接权限与职级差异化回答,安全网关负责校验、拦截和审批留痕。
对企业来说,可以先用一张台账把现有的智能体盘一遍,再按三道关逐项补齐。治理这件事赶早不赶晚,等标准检查和客户审计找上门再补课,成本会高得多。
FAQ:智能体治理落地三问
Q1:智能体治理要不要单独做一套系统,大概什么预算?
多数企业不用另起炉灶。身份、权限、审计三件事可以嵌在智能体平台里做:账号体系统一、操作留痕、审批网关,成熟平台本来就有。预算主要花在存量智能体的盘点整改和对接改造上,按场景数量估算,单个场景通常在几万元级,比单独采购一套治理平台划算。建议选型时把治理能力写进评分表,别等上线再补。
Q2:中小企业智能体还不多,是不是可以先放一放?
看两个条件。智能体数量少、都跑在内部问答这类低风险场景,可以只做台账登记和权限收敛,成本很低。但凡涉及客户数据、资金动作或对外发送,身份和审计就不该等。国标已经落地,采购方会逐步要求出示治理材料,早做是把成本摊薄,晚做是一次性赶工。
Q3:上海做企业AI智能体私有化部署的公司怎么选?治理能力怎么看?
重点看四点:能否全组件部署到内网并适配国产化环境;执行过程有没有留痕和回放机制;权限模型是否支持最小授权和人工确认;有没有现成的治理台账和评估报告模板。可以要求对方在 POC 阶段演示一次「出事怎么查、怎么停」的完整流程。上海的候选团队建议按行业案例就近筛,医疗、政务、制造方向各有积累,上门验证比看材料实在。