SaaS 智能体 VS 私有化部署

预算有限的团队在选企业智能体时，部署模式上也要特别注意！

私有化部署采购的是所有权，应用框架、工作流引擎、向量库、图数据库与模型推理全部落在自有机房，数据不出内网，工作流和索引参数可以改到配置层，代价是一次性硬件投入与自有运维。

数据安全：核心差别在"数据要不要离开网络边界"

企业知识进入智能体，先被切分成片段，再转为向量写入索引，检索到相关片段后拼进提示词，最后生成答案。

向量不等于原文，但向量携带原文信息。"只存向量、不存原文"并不构成完整的保护。更敏感的是元数据，文件名与作者署名、部门归属、时间戳，连同审批链路，这类信息比正文更能还原组织内部结构。

合规层面的风险分布在三处，跨境传输的合法性基础与推理日志的留存期限占前两项，第三项是供应商的次级服务商清单，企业在选型时可关注供应商是否披露此类信息。

定制深度：工作流能改到哪一层，影响着系统可扩展性

大语言模型应用带来新的需求：流程要支持循环，中途可以停下来等人确认，出错时还能回溯到上一步，图结构里开始允许出现环，状态被显式持久化，这类引擎即 Agent 状态图。

YAML 这个格式的改名史恰好说明了编排的灵活性。改名动机就是它的设计意图：优先面向人的阅读，机器解析排在其次。当一份工作流可以用人能通读的文本描述时，修改流程的自主性更高。

落到具体工程上，编排权体现在几个可验证的点上：节点能否自由组合，是否支持条件路由与并行分支，节点之间的状态如何传递，长任务中断后能否从检查点续跑。

检索侧的定制同样属于编排权的一部分。HNSW 图索引以更高的内存占用换取更低的查询延迟，IVF 类索引走的是省内存路线；向量相似度得分落在有界区间，BM25 关键词得分没有上界，两者直接加权会被量纲大的一方主导，需要用倒数排名融合这类只比较次序的方法合并结果。这类参数在订阅制产品里较难由用户直接调整。

集成能力：API 是可以当场验伪的部分

判断一个智能体是否真的开放，可以看三件事。它的界面上能做的操作，是否都有对应的接口；长任务是否提供异步提交与结果回调；状态变化是否由事件主动推送出来，不依赖调用方反复轮询。

 有一项可尝试的验证方式：要求对方用一条命令行请求走完"上传文档、触发处理、取回结果"的完整链路。如果走通，说明集成边界较清晰；如果走不通，则需要评估额外的工作量。

私有化部署还多出一层现实约束。ERP、MES、OA 这类内网系统通常没有公网入口，外部 SaaS 难以直接访问，数据集成可能需要额外开发或人工辅助。

长期成本：不可忽视的一步是重灌索引

总拥有成本这个概念的出现，源于企业发现硬件购置费只占支出的一小部分，运维与升级、人员培训，加上停机带来的损失，合计远超采购价，于是把口径从采购成本扩展到全周期成本。

订阅制的支出结构包括席位费与推理用量计费，用量上升时账单相应上升，企业需关注成本管控。

私有化的支出结构集中在两端。前端是硬件的一次性投入，中段是每年的运维人力，后段是技术栈变更时的重做成本。

避坑：评估私有化部署的完整性

市面上有一类产品，安装包落在企业服务器，模型调用却走公网。识别方法有几项，全部可在验收阶段执行。

断网测试。断开公网出口，再跑一次完整的问答流程。能跑通说明推理链路本地化程度较高；跑不通则需要进一步排查原因。

看外连。在服务器上查看常驻进程的外部连接，重点看是否存在指向外部四百四十三端口的长连接，嵌入计算与音频转写这两处最常出现外挂。

看授权校验方式。离线激活码与在线心跳是两种机制，后者在专线中断时可能影响服务可用性。

看合同条款。推理日志、操作埋点、遥测数据是否留存，留存多久，是否用于改进服务，次级服务商清单是否披露。

看运维通道。远程运维常驻隧道与按次申请的堡垒机加审批在安全边界上有所不同，可根据自身安全要求评估。

小艾智能体的部署路径属于第二种。FastAPI 应用框架层、LangGraph 工作流引擎、Milvus 向量库、Neo4j 图数据库、Elasticsearch 全文索引、RabbitMQ 消息队列与 Redis 缓存可部署在企业自有服务器，模型层兼容 DeepSeek、智谱等主流模型接口，也支持对接 GPT 系列在线服务，推理入口由企业自行指定。工作流可通过 YAML 或 JSON 配置组合多种预置节点，覆盖条件路由、并行执行与检查点续跑，在网络断开时流程仍可运行。集成侧提供 REST 接口，覆盖文档上传、处理状态查询、同步与异步执行、流式问答与技能调用，便于对接内网已有的业务系统。