首页 > 关于我们 > 新闻中心 > GlobalData分析师:浪潮信息EPAI帮助企业落地本地化大模型应用

GlobalData分析师:浪潮信息EPAI帮助企业落地本地化大模型应用

2024-11-13

近期,国际权威研究机构GlobalData发布了题为《Generative AI Watch: IEIT SYSTEMS’ Commitment to Open Source Drives GenAI Strategy》的报告,对浪潮信息基于EPAI的软硬件一体化集成和开源开放能力表示认可。分析师认为,在中国乃至全球范围内,GenAI的应用仍然处于早期阶段,出于数据隐私、安全、成本和性能(延迟)等因素的考虑,企业早期人工智能部署都需要私有云或本地环境,集成丰富授权软件的一体化方案可以有效促进GenAI的应用落地。

1.jpg

元脑企智EPAI(Enterprise Platform of AI)是一个能够帮助企业AI大模型落地应用的,高效、易用、安全的端到端开发平台,提供数据准备、模型训练、知识检索、应用框架等系列工具,可调度多元算力和多模算法。此外,浪潮信息还推出了EPAI一体机,支持10多个业界主流大模型计算框架,内置了7个主流基础大模型,预设了20多种微调参数,企业根据不同的场景和业务需求可以快速开发模型应用。

以下是分析师的观点

GenAI的挑战和机遇

GenAI越来越接近一种具备意识和分析性思维模仿能力的更高级的大型语言模型,显示出了巨大的潜力。但是在中国乃至全球范围内,GenAI的应用仍然处于早期阶段,尤其是企业应用,其渗透率远低于个人消费领域。主要原因是数据、算力限制了GenAI算法水平,从而限制了GenAI的应用普及进程。

数据是制约GenAI应用的重要原因。表面看,中国产生了数量惊人的数据,2023年达到了32.85ZB,尤其制造、金融、医疗、零售等垂直领域积累了大量的业务数据,可以用于开发应用,帮助用户业务成长。而实际上,训练GenAI所需的公开数据基本用尽,高质量的行业应用获取困难,这导致大模型幻觉难以解决,幻觉问题所带来的结果不准确和知识产权剽窃、偏见等也可能引发巨大的风险。

算力是最严重的挑战,尤其是算力利用效率普遍偏低。例如Llama3大模型训练平台的效率只有40%,有60%的算力被浪费。

具体到每一个企业,还有很多更为具体的问题。大多数企业出于数据隐私、安全、成本和性能(延迟)等因素的考虑,早期人工智能部署都需要私有云或本地环境。同时,企业用户尤其是大型企业普遍有着复杂的内部数据和ICT框架,对他们来讲,集成了丰富授权软件的一体化方案尤为重要。

一体化集成,EPAI让企业跨过GenAI门槛

EPAI对大量数据类型和LLM的支持,以及数据管理、数据微调和检索增强生成(RAG)等集成的工具软件,可以使企业开发出符合其需求的应用程序,并提高其AI应用程序的性能。而且人工智能应用与基础设施(如计算、存储和网络)的耦合性较高,浪潮信息将基础设施解决方案集成到EPAI产品中,更好的发挥了其在硬件方面的优势。据了解,浪潮信息通过计算架构创新,服务器、存储、网络全栈产品面向AI优化的优化设计等,持续提高AI平台的模算效率,如NIC和交换机协同设计的超级AI以太网可以将LLM训练效率提高30%。

开源开放,实现差异化竞争

EPAI是一个开放的多元融合平台,支持的算力和大模型数量越来越多,是浪潮信息开源开放战略的关键构成。

开源开放的策略技术层面可以有效解决多系统、平台之间的互操作挑战,产业层面可以加快浪潮信息同技术提供商、行业参与者的合作,双方可以共同开发ICT解决方案,满足垂直行业的多样化需求。因而,开源开放可以降低成本、增加灵活性和降低供应商锁定风险,是浪潮信息实现差异化竞争的关键点。

分析师建议:构建全球影响力 驱动AI应用

对于浪潮信息加速推进AI应用落地,分析师提出了3项建议:

寻求更多全球合作伙伴,他们将有助于浪潮信息在全球范围内提升影响力。同时,浪潮信息应该考虑那些在制造业等领域能够实现深度垂直整合的合作伙伴,实现更大的差异化。

加大推广具有示范意义的客户案例,尤其是在生产环境中部署了源大模型、EPAI平台的企业用户。目前,GenAI还属于十分新颖的前沿领域,用户对于新技术缺乏信任,单纯的产品技术难以吸引用户部署使用。

继续升级和完善EPAI,使其支持更广泛的LLM,将负责任的AI列入技术主张,开放共享其技术支持列表,并在全球范围内扩展其合作伙伴。如此,可缩小与竞争对手的差距,满足人工智能的多样化市场需求。

关于GlobalData

GlobalData 是全球最大的行业数据、分析和解决方案提供商,拥有数十年的经验和专有数据,致力于为医疗、IT、通信、金融等领域提供市场洞察、数据分析和专业咨询服务。