本站点使用Cookies,继续浏览表示您同意我们使用Cookies。
Cookies和隐私政策>
Agent正在进入企业核心业务流程,Gartner预测,到2026年底,40%的企业应用将集成面向特定任务的AI智能体。当Agent从少数员工试用走向多部门日常使用,企业需要考虑的不只是单项任务的效果,还需要保障数据安全访问、多任务稳定运行,并统筹资源供给与使用成本。
围绕这些需求,浪潮信息发布《企业Agent基础设施参考设计白皮书》(以下简称《白皮书》),提出“数据自主、Token自控”两大主张,给出物理层、系统软件层和场景应用层三层参考架构,并结合自身实践,提出关键能力要求和分阶段建设方法,为企业规划、建设和运营Agent基础设施提供参考。

随着Agent从个人试用走向多部门应用,数据流向、Token供给及成本管理不再是单个应用的问题,而成为企业需要统一规划的基础设施能力。为此,《白皮书》提出,企业自建Agent基础设施,核心是将业务数据的使用边界与Token生产能力掌握在自己手中,实现“数据自主、Token自控”。
数据自主,让企业掌握业务数据的使用边界。Agent深入业务后,需要接触合同、客户资料、研发代码和经营信息等核心数据。这些数据由谁读取、用于哪些任务、是否允许传出企业,都需要明确规则。《白皮书》提出,通过本地化部署、权限管理、隔离运行和操作审计,加强数据使用管控;按任务设置数据访问和工具使用权限,对高风险操作保留人工审批,并记录执行过程,便于异常排查与责任追溯。
Token自控,既要算清用量,也要管好供给与成本。Agent完成任务往往需要多轮调用模型,资料长度、任务复杂程度和执行轮次都会影响Token消耗。企业可根据应用规模与实际负载,规划本地算力和自有Token供给能力,通过统一的Token服务平台管理模型接入、额度分配、用量统计与费用核算。在掌握各部门、各类任务实际消耗的基础上,统筹设备投入、资源利用率与运行成本,使Token供给更好地匹配业务需求。
因此,自建Agent基础设施不只是本地部署模型或降低调用费用,而是把数据安全、Token生产与供给、Agent运行和治理纳入统一体系。企业不仅能够掌握核心数据的使用边界,还能够形成自主、可计量、可调度的Token产能,为智能体长期稳定运行建立基础。
如何将“数据自主、Token自控”落实到具体建设中?《白皮书》从Agent工作流程和运营需求出发,提出基础设施物理层、基础设施系统软件层和Agent场景应用层的三层参考架构,将底层算力资源、Token服务和Agent开发运行纳入整体设计,打通“算力生产—Token转化—Agent运行”的完整能力链路。
这一架构的核心思路,是围绕“用Token完成业务任务”,反向牵引基础设施建设。Agent成为企业生产力,既需要稳定、高效的Token供给,也需要获取业务知识、调用工具、执行流程,并在明确的权限与规则下持续运行。前者由物理层与系统软件层保障,后者由场景应用层承接,使资源配置、服务调度与业务执行相互衔接。
● L1基础物理层:面向模型推理、任务运行、数据存储、高速互联四类负载,构建多元算力底座。Token引擎负责推理,Agent主机承载运行环境与工具链,数据平台统一管理知识与记忆,高速网络将分散资源聚合为算力池。由此,企业数据不出域、模型可选择、算力可复用。
● L2系统软件层:统一调度多元异构算力,整合模型服务、内外部模型库与工具链,构建企业级Token服务平台,向业务部门提供可用、可限、可计量的Token供给,支撑不同规模Agent并发调用。Token由此从「成本项」变为可计量、可定价、可评价的「生产要素」,企业AI投入的回报随之可衡量。
● L3场景应用层:将业务知识、流程规范与领域经验融入Agent开发与运行,由企业级智能体开发平台统一管理部署、权限与执行。区别于外挂知识库,L3把行业know-how转化为结构化工作流与决策逻辑,让Agent不只读懂资料,更能按规则执行流程。安全沙箱、审计日志与权限管控,确保Agent处理核心业务时可管、可控、可审计。

L1物理层、L2系统软件层、L3场景应用层,以及贯穿三层的三项支撑
全链路安全管理与运维则贯穿三层架构,在保障数据与操作安全的同时,实现模型服务、任务运行及底层资源的统一管理与持续运维,兼顾Agent运行的安全性、可靠性与经济性。
03 自身实践验证,让参考设计有据可循
《白皮书》的参考架构与关键能力已在浪潮信息自身Agent基础设施建设和业务应用中得到实践验证,覆盖Token供给、企业知识调用、运行隔离与权限管理等环节。
浪潮信息基于“积算科技”Token服务平台,统一提供模型服务,管理访问权限、使用额度与Token用量。目前,平台已覆盖41个业务部门,注册用户超过2600人,单日Token调用量超过100亿,支撑研发、供应、生产、营销和服务等领域的智能体应用。
在售前场景中,浪潮信息基于企业级智能体开发平台EPAI打造“元小智”,将1500余份业务资料、产品信息与行业研报纳入企业自主管理的知识库,覆盖8大业务线在售产品,使Agent能够在授权范围内调用企业知识,辅助售前人员提取招标需求、检索产品与方案信息,将招标文件需求分析时间从天级缩短至分钟级,在掌握业务数据使用边界的同时,提高知识利用与业务处理效率。
在研发场景中,浪潮信息通过人机协同,在一周内完成企业级智能体管理平台ClawManager的开发、调试与发布。工程师负责目标设定、架构设计与关键节点把关,Agent承担任务拆解、编码和调试;基础设施提供模型调用、权限分配与隔离执行支持,使研发过程可追溯、可回退,体现了Humagent(Human+Agent)理念下的协作方式。
ClawManager上线后,通过用户鉴权、隔离沙箱和模型调用审计,管控Agent的数据访问与执行过程;通过额度分配与Token用量展示,使模型资源使用可分配、消耗可追踪。同时,平台支持实例批量部署,将十人规模的环境配置时间由半天缩短至分钟级,兼顾部署效率与运行管控。

积算科技Token服务平台、元小智、ClawManager的运行数据
从跨部门模型服务到具体业务应用、再到Humagent协作方式,上述实践为《白皮书》的参考设计与建设要求提供了实际依据。
Agent基础设施的建设规模应由业务需求决定,《白皮书》提出“评估规划—试点验证—规模化运营”三阶段路径:先梳理业务任务、并发规模、数据范围和安全要求,结合现有资源确定配置;再验证功能、性能、兼容性及安全能力,检查人工干预与任务回退机制;最后持续跟踪服务质量、资源利用率和运行成本,依据实际成效扩大应用。

评估规划、试点验证、规模运营,每阶段设有可度量指标
针对小团队、中大型企业及AI原生企业,《白皮书》提供分层参考方案,明确建设与交付分工:企业提出业务需求、价值目标与验收标准,浪潮信息提供Agent基础设施解决方案,生态伙伴负责场景应用及交付,并依托元脑未来实验室开展方案验证与团队培训。
《白皮书》为企业提供从架构设计到建设运营的参考,帮助企业统筹数据管理、Token供给与Agent运行,在实践中验证业务价值,让Agent成为长期使用的生产工具。
访问 AIStoreAIStore是基于元脑生态打造的商业协作线上平台,作为知识资源平台、交流服务平台和商机孵化平台,赋能“百模”与“千行”的对接,目前已上架200+产品和方案,在智能票据识别、AI工业质检、代码生成、视觉智能标注、AI健康助手等领域实现成功牵手和落地应用,助力千行百业加速AI产业创新,高效释放生产力。

扫码访问AIStore