本站点使用Cookies,继续浏览表示您同意我们使用Cookies。
Cookies和隐私政策>
随着大模型和智能体加速进入企业生产环境,AI系统的评价标准正在发生变化。除了模型能力和硬件性能,AI系统能否在复杂业务场景下持续、稳定、高效运行,正成为衡量AI应用价值的重要标准。
近日,电子五所联合浪潮信息、北京开源芯片研究院、百度智能云、阿里云等20多家企事业单位,正式发布面向智能体时代的“可靠AI”测评体系。该体系覆盖芯片、整机与互联、框架与系统软件、模型、数据及应用等环节,推动AI评价从单点能力测试进一步向全链路系统可靠性验证拓展,为AI规模化应用提供更加系统、可验证的评价依据。
作为联合发布单位之一,浪潮信息依托在AI系统架构、异构算力适配、大规模部署及标准化建设等方面的实践积累,为测评体系建设提供产业实践支撑。

随着AI应用从智能问答向复杂任务执行演进,智能体需要支持多轮推理、工具调用及长时间持续运行,AI系统的可靠性已不再取决于单一模型或硬件性能,而是芯片、整机、软件框架、模型与应用等多环节协同的综合结果。如何评价整套系统在复杂业务场景中的稳定性、安全性与任务执行能力,成为AI规模化应用需要解决的重要问题。
此次发布的“可靠AI”测评体系,将人工智能系统在特定应用场景和规定运行条件下持续、稳定地实现预期功能和性能,作为可靠性评价的重要基础,并将安全性、可预测性以及异常检测、处置和恢复能力纳入评价要求。
该体系围绕基础软硬件、模型、数据、应用四个层级展开,形成覆盖AI全链路的可靠性评价框架:
基础软硬件层:包括芯片、整机与互联、框架与系统软件3部分,重点验证算力性能、带宽利用率、首Token时延、能效比、长稳性、多卡多机协同、通信扩展效率、资源隔离、调度恢复等能力,解决AI系统“算得稳、跑得住、配得准”的问题。
模型层:围绕通用能力、领域场景能力和对抗条件下的表现开展验证,重点关注领域准确率、幻觉率、鲁棒性、安全对齐和复杂任务完成能力,判断模型是否“答得对、稳得住、控得住”。
数据层:围绕数据质量、权属合规、时效性、可溯源性、检索效果、污染隔离等开展测评,保障训练数据、知识库数据和推理输入“可信、准确、合规”。
应用层:面向最终业务价值,重点验证AI应用的系统稳定性、任务闭环能力、越权防护、事务一致性、安全退出、异常恢复和业务成效,判断AI系统是否具备真实场景上线和规模化推广条件。
通过覆盖不同层级的评价方法和可复核的测评证据,该体系旨在为企业开展AI系统选型、部署验证和运行优化提供参考,推动AI应用从技术验证走向规模化生产实践。

作为AI算力系统厂商,浪潮信息长期围绕大模型和智能体应用需求,开展AI服务器、超节点、异构算力适配及软硬件协同优化等技术创新,在多元算力系统设计、性能验证和规模化部署,以及相关技术标准建设方面积累了丰富的实践经验,为AI系统可靠性测评提供了技术基础。
目前,浪潮信息正积极推进面向异构算力的大模型推理系统测评方法研究与工具开发验证,覆盖芯片、服务器、集群、推理软件栈及模型等环节,聚焦精度、性能、稳定性、能效和经济性等关键维度,通过规范测试环境、模型配置和负载条件,提升不同算力平台测评结果的可比性与可复现性。同时,围绕测试执行、数据采集、指标计算和报告生成等环节推进测评工具开发与验证,推动系统级评价要求转化为可执行、可复核的测试能力。
未来,浪潮信息将持续参与“可靠AI”测评体系的完善与产业应用,推动形成更加科学、客观、可复现的系统评价方法,为AI基础设施的技术选型、适配验证和规模化部署提供参考。
访问 AIStoreAIStore是基于元脑生态打造的商业协作线上平台,作为知识资源平台、交流服务平台和商机孵化平台,赋能“百模”与“千行”的对接,目前已上架200+产品和方案,在智能票据识别、AI工业质检、代码生成、视觉智能标注、AI健康助手等领域实现成功牵手和落地应用,助力千行百业加速AI产业创新,高效释放生产力。

扫码访问AIStore