本站点使用Cookies,继续浏览表示您同意我们使用Cookies。
Cookies和隐私政策>
随着人工智能技术的不断发展,图文识别(OCR)领域正在经历从简单字符识别到复杂多模态大模型的转变。数据量的激增与数据复杂度的提升,要求图文识别训练的原始数据必须经过精细的处理和转化。如何高效处理PB级原始数据,并最终生成可供训练使用的高质量数据集,成为了大模型训练至关重要的前置步骤。
而数据预处理过程中海量规模数据的清洗、标注、增强、调参,每一步都需要高效的存储来保证顺畅流转,从而缩短训练数据等待时间,对存储系统的容量和性能提出更高要求。
某行业领先企业深耕图文识别领域多年,已在金融、制造等多个行业中成功应用,随着业务扩张其平台上的年新增原始图文数据量高达18PB。为应对数据激增带来的存储挑战,该企业携手浪潮信息,以更大容量、更高性能的元脑服务器NF3266G7高效支撑了数据预处理任务,为后续图文大模型训练提供了高质量数据集。

数据预处理阶段的主要任务是将大规模原始数据转化为高质量数据集,供后续GPU训练使用。预处理阶段的核心是对原始数据进行清洗、标注和调参,必须保证在PB级超大数据量输入的情况下高效处理,及时输出高质量数据集,对承载数据的底层存储系统提出挑战:
装得下:PB级图文数据需极致存储容量承载
该企业2026年预计新增原始图文数据量高达18PB,且未来几年伴随业务增长还将持续增长。这要求存储系统不仅要在成本相对可控的条件下配备超大容量,还需具备灵活的扩展能力,支持未来可预见的增量存储需求。
转得快:图文数据流转效率承压
为尽可能减少大模型训练等待时间,该企业要求图文数据预处理过程中系统必须快速完成数据清洗、标注与调参等操作,避免因数据流转延迟影响整个训练周期的进度。存储系统需要高效处理大规模数据,并将其及时转化为高质量的数据集。
管得稳:可靠性与集中管理存在短板
数据预处理工作通常是7×24小时不间断进行,存储系统必须确保数据的高可靠性,避免在长时间运行过程中出现故障或数据丢失。需要集中化的存储管理以支持实时监控与故障预警,保证系统高效运转;同时通过智能化的运维手段确保及时响应故障,减少系统停机时间。
针对该企业在图文识别训练数据预处理过程中面临的存储容量、读写性能、运维管理三大核心挑战,浪潮信息基于元脑服务器NF3266G7为其打造新一代存储底座,升级后存储容量提升500%以上,读写延迟降低70%,极大提高了数据清洗、标注、调参等处理环节的效率,为高质量数据集的输出奠定了坚实基础。
元脑服务器NF3266G7是浪潮信息推出的面向数据密集型场景的高密度存储与数据处理节点,适用于AI训练数据湖、预处理归集、样本库与版本化数据集管理等工作负载。在架构设计上,单机最大扩展24块硬盘,便于构建大容量存储底座;同时通过创新单路设计减少跨Socket带来的访问时延,并在2U空间内提供面向分布式部署的高速互联能力,支持跨节点高效访问与数据归集。
“存算一体”架构,可用存储容量提升500%以上:元脑服务器NF3266G7作为独立存储节点,升级“存算一体”架构,单机24盘位带来容量跃升,轻松承载亿级图文训练数据预处理需求。通过HDD统一纳管与弹性扩容,实现不中断训练业务的按需扩展,为版本化管理与持续迭代提供稳定底座。
单路设计+分布式混闪资源池,数据预处理效率显著提升:为满足该企业在预处理阶段的海量数据流转需求,NF3266G7构建分布式混闪资源池,通过单路设计降低跨Socket延迟,并配合高速接口优化传输链路,实现跨节点访问效率提升一倍。在2U空间内集成高算力与百Gb级带宽,可承接千亿级图文数据实时处理与归集,确保清洗、标注与调参环节高效进行,避免数据处理滞后。
高可靠设计+智能化运维,故障影响控制在分钟级:通过统一存储管理平台实现集中管控与实时监控,支持故障预警与批量运维,将故障排查时间缩短至分钟级,使运维人力成本降低 50%。同时具备核心部件冗余与故障自动隔离能力,整机MTBF超过18万小时,保障训练任务连续不中断。
随着项目落地应用,升级后的方案不仅成功解决了该企业在图文识别训练数据预处理过程中面临的存储瓶颈,更以“大容量、高效率、智运维” 的核心优势,为智能文字识别等行业提供更有价值的AI时代数据存储解决方案。未来,浪潮信息将持续深化存储与算力协同创新,增强行业场景适配,为千行百业的AI规模化应用构建坚实的数据基座。
访问 AIStoreAIStore是基于元脑生态打造的商业协作线上平台,作为知识资源平台、交流服务平台和商机孵化平台,赋能“百模”与“千行”的对接,目前已上架200+产品和方案,在智能票据识别、AI工业质检、代码生成、视觉智能标注、AI健康助手等领域实现成功牵手和落地应用,助力千行百业加速AI产业创新,高效释放生产力。

扫码访问AIStore