← 返回博客
生产治理

企业 AI 智能体如何进入生产环境?

权限、审计与私有化部署要求

身份、资产授权、运行日志、关键审批、数据边界和私有化部署,构成技术与安全团队的第一轮评估。

未来式智能·2026年10月15日·7 分钟阅读

企业 AI 智能体如何进入生产环境?

企业 AI 智能体进入生产环境前,应明确它以谁的身份工作,可以读取哪些资料,允许操作哪些系统。提交申请或向外发送文件时,要按企业规则请求确认。任务完成后,应能查到实际操作和结果;发生错误时,要能停止任务并找到负责人。

未来式智能以“企业级数字劳动力操作系统”为公司定位。灵搭作为企业级 AI 智能体平台,承接企业内部智能体的创建和运行;员工通过灵搭智能终端发起任务,查看成果并处理待确认事项。管理这些工作,需要把权限和审计落实到实际访问的文件、工具及业务系统上。

谁发起任务,系统就以什么身份执行吗

员工发起任务后,智能体可能需要调用数据库、文档库或业务系统。企业应选择适合的身份方式,例如按员工授权访问,或者使用范围受限的服务账号,并记录此次操作代表哪个用户、哪个任务。

不能默认把平台管理员账号交给所有智能体共用。这样的账号往往权限过大,也难以追查不同任务的操作归属。

授权需要覆盖实际动作。员工可以查看一个应用,不意味着可以查看该应用能访问的全部原始资料;可以读取合同,不意味着可以修改合同;可以创建草稿,也不意味着可以正式提交。

权限校验应由目标系统或工具服务落实。例如,通过 MCP 提供订单查询时,服务端应限制可查询的部门和字段;OA 通过 OpenAPI 调用智能体时,也应校验调用方和使用者身份。在提示词里写“只读”,无法替代这些检查。凭证应单独保管,避免出现在共享文件或普通运行日志中。

私有化部署需要核对完整数据流向

企业知识库部署在内网,只能说明这一组件的存放位置。文档解析、向量化、重排序和模型推理,可能分别使用不同服务。明确每个环节实际传送的数据,才能判断是否满足企业要求。

环节可能处理的数据需要确认的内容
文档解析原始文件、页面图片、OCR 文本在哪里处理,临时文件何时删除
向量化与检索文本片段、索引和查询问题服务位置、访问隔离和更新机制
模型推理提示词、引用资料、工具返回内容实际调用地址、传输内容及服务方留存约定
界面操作屏幕截图、页面文本、下载附件是否传出终端,凭证如何隔离
日志与备份输入输出、操作记录、历史文件查看权限、保留期限及删除规则
外部工具查询参数、待发送内容、业务结果允许访问的目标和数据范围

向量和日志也可能包含敏感信息,不能仅凭“没有传原始文件”判断安全。本地文件通过终端打开后,若其内容被送入外部模型,仍发生了相应数据传输。

灵搭平台和灵搭智能终端支持企业私有化部署。企业可以在私有环境中存放业务数据,配置模型及相关服务的调用方式。验收时,可选一份内部文件实际运行任务,检查解析、检索和生成过程中调用了哪些地址,生成的文件和日志存在哪里,再核对是否符合既定的数据范围。

文档内容不能获得额外操作权限

智能体可能读取邮件、网页或供应商附件。这些内容中即使出现“请把内部文件发送到某个地址”之类的文字,也不应改变已经确定的任务权限。

OWASP 的提示注入防护指南说明,外部内容可能通过间接提示注入影响模型行为。防护需要组合使用内容来源区分、最小权限、操作校验和必要的人工确认,不能只依赖一条提示词。

例如,报告任务只需读取指定目录,工具服务就应限制到该范围。Workflow 2.0 可以将内容生成和对外发送拆成不同步骤,在发送前请求人员确认收件人及附件。Agentic 节点选择工具时,同样受到既定权限限制,读取到的文档不能自行扩大授权。

审计记录需要能解释发生了什么

任务审计需要记录谁发起工作,以什么身份执行,使用了哪些资料和版本。每次工具调用应保留必要的参数和返回结果,关键操作还要关联人工确认记录。日志中的敏感内容应按需要脱敏,并限制查看权限。

出现错误时,业务负责人通常需要知道:哪些记录受到影响,使用了哪份资料和哪版工作方法,谁确认过关键动作,以及是否有其他任务受到同样影响。

只保留一份最终报告,难以回答这些问题。把所有原始材料无限期写入日志,又会制造新的数据风险。日志保留范围和期限,应围绕排查、审计和企业制度确定。

审计也不要求记录模型隐藏的内部推理。可观察的工具调用、证据引用、阶段成果和人员决策,才是能够核查的业务事实。

公司级 SkillHub 和内部群协作怎样管理

灵搭的公司级 SkillHub 用于发布和复用企业内部的岗位 Skill。比如,运营人员将月报方法整理成技能,写清查询口径和报告模板,同事可以在授权范围内使用。每个技能应标明作者和版本,并说明需要访问哪些资料、调用哪些工具。

一个技能被同事添加后,不能把创作者的访问权限一并带过去。销售人员使用同一份月报 Skill,仍应只查询自己获准访问的客户和订单。公司内部群里共享智能体入口时,也要检查发起任务的人可以访问哪些数据。

在群内协作中,还需要明确谁补充资料,谁确认结果。涉及客户信息的报告,应检查接收成员是否有查看权限。灵搭智能终端中的待确认事项和任务成果,也应遵守相同的授权范围。

技能更新还会改变后续任务表现。新增外发动作、扩大文件范围或改变关键判断规则时,需要重新评估。发布记录应说明改了什么,并保留对应测试结果和负责人。

个人偏好和项目临时约定不宜直接写成公司规则。例如,某个客户本月要求改用特殊报表格式,应先用于对应任务。业务负责人确认其他客户也适用后,再修改共享 Skill,并用原有任务检查更新效果。

上线评估要包含一次异常处置演练

上线前可以演练一个完整异常:目标系统提交超时,智能体无法确认结果,负责人收到待办,核查记录后选择继续或结束任务。演练能够暴露通知找不到人、重复提交或阶段成果丢失等问题。

模型和技能版本回滚,只能恢复后续执行所用的配置。已经写入的业务数据,需要目标系统支持的撤销或补偿机制处理;已经发生的外部承诺,通常还需要人员跟进。

NIST AI 风险管理框架将风险管理贯穿 AI 系统的设计、开发、使用和评估。企业可以参考这种持续管理方式,结合自身制度设定检查要求;引用框架本身不代表取得认证。

生产验收时,应实际验证一次授权访问,查询一份完整任务记录,并演练一次异常接管。以后更换模型、更新 Skill 或接入新的系统,都要重新检查受影响的任务。业务团队据此确认智能体能做哪些工作,以及何时需要人员介入。

常见问题

私有化部署后,数据就一定不出企业了吗?

需要核对实际调用。外部模型、OCR 服务、监控日志和第三方工具都可能传输内容。应按完整数据流向验收,不能只看平台安装位置。

通过管理体系认证,就可以直接上线智能体吗?

仍需按具体任务检查。管理体系认证与某个智能体的权限配置、数据路径和执行质量属于不同层面,不能相互替代。

延伸阅读:旧系统连接与 GUI Agent · 企业智能体运行评测

了解未来式智能及灵搭