本站点使用Cookies,继续浏览表示您同意我们使用Cookies。 Cookies和隐私政策>

简体中文
首页 > 关于我们 > 新闻中心 > 《企业Agent基础设施参考设计白皮书》,浪潮信息发布!

《企业Agent基础设施参考设计白皮书》,浪潮信息发布!

2026-10-30

Agent正在进入企业核心业务流程,Gartner预测,到2026年底,40%的企业应用将集成面向特定任务的AI智能体。当Agent从少数员工试用走向多部门日常使用,企业需要考虑的不只是单项任务的效果,还需要保障数据安全访问、多任务稳定运行,并统筹资源供给与使用成本。

围绕这些需求,浪潮信息发布《企业Agent基础设施参考设计白皮书》(以下简称《白皮书》),提出“数据自主、Token自控”两大主张,给出物理层、系统软件层和场景应用层三层参考架构,并结合自身实践,提出关键能力要求和分阶段建设方法,为企业规划、建设和运营Agent基础设施提供参考。

企业智能体白皮书封面.jpg

01 “数据自主、Token自控”,构建企业自己的Agent生产底座

随着Agent从个人试用走向多部门应用,数据流向、Token供给及成本管理不再是单个应用的问题,而成为企业需要统一规划的基础设施能力。为此,《白皮书》提出,企业自建Agent基础设施,核心是将业务数据的使用边界与Token生产能力掌握在自己手中,实现“数据自主、Token自控”。

数据自主,让企业掌握业务数据的使用边界。Agent深入业务后,需要接触合同、客户资料、研发代码和经营信息等核心数据。这些数据由谁读取、用于哪些任务、是否允许传出企业,都需要明确规则。《白皮书》提出,通过本地化部署、权限管理、隔离运行和操作审计,加强数据使用管控;按任务设置数据访问和工具使用权限,对高风险操作保留人工审批,并记录执行过程,便于异常排查与责任追溯。

Token自控,既要算清用量,也要管好供给与成本。Agent完成任务往往需要多轮调用模型,资料长度、任务复杂程度和执行轮次都会影响Token消耗。企业可根据应用规模与实际负载,规划本地算力和自有Token供给能力,通过统一的Token服务平台管理模型接入、额度分配、用量统计与费用核算。在掌握各部门、各类任务实际消耗的基础上,统筹设备投入、资源利用率与运行成本,使Token供给更好地匹配业务需求。

因此,自建Agent基础设施不只是本地部署模型或降低调用费用,而是把数据安全、Token生产与供给、Agent运行和治理纳入统一体系。企业不仅能够掌握核心数据的使用边界,还能够形成自主、可计量、可调度的Token产能,为智能体长期稳定运行建立基础。

02 三层参考架构,打通“算力生产—Token转化—Agent运行”

如何将“数据自主、Token自控”落实到具体建设中?《白皮书》从Agent工作流程和运营需求出发,提出基础设施物理层、基础设施系统软件层和Agent场景应用层的三层参考架构,将底层算力资源、Token服务和Agent开发运行纳入整体设计,打通“算力生产—Token转化—Agent运行”的完整能力链路。

这一架构的核心思路,是围绕“用Token完成业务任务”,反向牵引基础设施建设。Agent成为企业生产力,既需要稳定、高效的Token供给,也需要获取业务知识、调用工具、执行流程,并在明确的权限与规则下持续运行。前者由物理层与系统软件层保障,后者由场景应用层承接,使资源配置、服务调度与业务执行相互衔接。

● L1基础物理层:面向模型推理、任务运行、数据存储、高速互联四类负载,构建多元算力底座。Token引擎负责推理,Agent主机承载运行环境与工具链,数据平台统一管理知识与记忆,高速网络将分散资源聚合为算力池。由此,企业数据不出域、模型可选择、算力可复用。

● L2系统软件层:统一调度多元异构算力,整合模型服务、内外部模型库与工具链,构建企业级Token服务平台,向业务部门提供可用、可限、可计量的Token供给,支撑不同规模Agent并发调用。Token由此从「成本项」变为可计量、可定价、可评价的「生产要素」,企业AI投入的回报随之可衡量。

● L3场景应用层:将业务知识、流程规范与领域经验融入Agent开发与运行,由企业级智能体开发平台统一管理部署、权限与执行。区别于外挂知识库,L3把行业know-how转化为结构化工作流与决策逻辑,让Agent不只读懂资料,更能按规则执行流程。安全沙箱、审计日志与权限管控,确保Agent处理核心业务时可管、可控、可审计。

三层架构与四类设备图.jpg

L1物理层、L2系统软件层、L3场景应用层,以及贯穿三层的三项支撑

全链路安全管理与运维则贯穿三层架构,在保障数据与操作安全的同时,实现模型服务、任务运行及底层资源的统一管理与持续运维,兼顾Agent运行的安全性、可靠性与经济性。

03 自身实践验证,让参考设计有据可循

《白皮书》的参考架构与关键能力已在浪潮信息自身Agent基础设施建设和业务应用中得到实践验证,覆盖Token供给、企业知识调用、运行隔离与权限管理等环节。

浪潮信息基于“积算科技”Token服务平台,统一提供模型服务,管理访问权限、使用额度与Token用量。目前,平台已覆盖41个业务部门,注册用户超过2600人,单日Token调用量超过100亿,支撑研发、供应、生产、营销和服务等领域的智能体应用。

在售前场景中,浪潮信息基于企业级智能体开发平台EPAI打造“元小智”,将1500余份业务资料、产品信息与行业研报纳入企业自主管理的知识库,覆盖8大业务线在售产品,使Agent能够在授权范围内调用企业知识,辅助售前人员提取招标需求、检索产品与方案信息,将招标文件需求分析时间从天级缩短至分钟级,在掌握业务数据使用边界的同时,提高知识利用与业务处理效率。

在研发场景中,浪潮信息通过人机协同,在一周内完成企业级智能体管理平台ClawManager的开发、调试与发布。工程师负责目标设定、架构设计与关键节点把关,Agent承担任务拆解、编码和调试;基础设施提供模型调用、权限分配与隔离执行支持,使研发过程可追溯、可回退,体现了Humagent(Human+Agent)理念下的协作方式。

ClawManager上线后,通过用户鉴权、隔离沙箱和模型调用审计,管控Agent的数据访问与执行过程;通过额度分配与Token用量展示,使模型资源使用可分配、消耗可追踪。同时,平台支持实例批量部署,将十人规模的环境配置时间由半天缩短至分钟级,兼顾部署效率与运行管控。

三组系统运行数据概览.jpg

积算科技Token服务平台、元小智、ClawManager的运行数据

从跨部门模型服务到具体业务应用、再到Humagent协作方式,上述实践为《白皮书》的参考设计与建设要求提供了实际依据。

04 从业务需求出发,分阶段推进建设

Agent基础设施的建设规模应由业务需求决定,《白皮书》提出“评估规划—试点验证—规模化运营”三阶段路径:先梳理业务任务、并发规模、数据范围和安全要求,结合现有资源确定配置;再验证功能、性能、兼容性及安全能力,检查人工干预与任务回退机制;最后持续跟踪服务质量、资源利用率和运行成本,依据实际成效扩大应用。

基础设施三阶段建设图.jpg

评估规划、试点验证、规模运营,每阶段设有可度量指标

针对小团队、中大型企业及AI原生企业,《白皮书》提供分层参考方案,明确建设与交付分工:企业提出业务需求、价值目标与验收标准,浪潮信息提供Agent基础设施解决方案,生态伙伴负责场景应用及交付,并依托元脑未来实验室开展方案验证与团队培训。

《白皮书》为企业提供从架构设计到建设运营的参考,帮助企业统筹数据管理、Token供给与Agent运行,在实践中验证业务价值,让Agent成为长期使用的生产工具。


售前咨询

售后服务

意见反馈

回到顶部

回到顶部

收起
回到顶部 回到顶部
请选择服务项目
售前咨询
售后服务
访问 AIStore

扫码访问AIStore