本站点使用Cookies,继续浏览表示您同意我们使用Cookies。
Cookies和隐私政策>
当一辆自动驾驶汽车在浓雾的天气中行驶时,它并非在“独自思考”:路侧边缘算力正在同步感知周边路况信息,并接入云端算力协同计算,毫秒间获得最优通行方案——算力,正如水、电一样自由、高效流动。
在CCTV-1《开讲啦》节目中,中国工程院院士、紫金山实验室首席科学家刘韵洁,描绘了智能时代,算力将通过未来网络,被准时、精准地送达到最需要的地方,提供智能服务。目前,紫金山实验室已经建成“未来网络”,通过“全域一体化数算网技术调度全国智算中心的算力资源。
在此基础上,紫金山实验室也在推动算力向边缘下沉,通过云边协同将算力延伸至工厂、街区、基站和终端设备侧。基于这一目标,紫金山实验室选择浪潮信息元脑边缘微服务器EIS860,作为打通算力最后一公里的边缘节点。EIS860凭借极致的AI算力、灵活架构设计,不仅支持本地单机运行DeepSeek R1-32B模型,实现最大20路并发下的高效推理,还能够快速接入一体化算力网络,支撑边缘端承载各类千亿参数AI大模型微调和推理应用,成本降低50%,让AI算力触达自动驾驶、工业互联网、医疗、教育、企业。
未来算力向边缘下沉,边缘侧需要“会思考的节点”随着大模型推理能力不断增强,AI智能体、机器人、自动驾驶、创意视频生成等新应用正在爆发,对算力即时响应的要求越来越严苛,许多场景需要在毫秒级内完成感知、判断与反馈。仅依赖远端云计算,已难以支撑这类高实时性业务,算力必须向数据产生的源头持续下沉。
在这一背景下,“云边协同”不再是一种架构选择,正在成为一种现实需求:在云端集中完成大规模模型训练、全局调度与策略优化;在边缘侧完成就近感知、实时推理和快速决策,让算力在云与边之间按需流动、动态分配,既保证实时性,又兼顾整体效率。
围绕这一目标,紫金山实验室研发了全球首个“未来网络”架构,通过“全域一体化数算网技术,调度全国智算中心的算力资源,为远程手术、实时电影渲染等对时延和稳定性高度敏感的任务,提供可预测、可保障的数据通道。但在边缘AI算力真正“入企、入校、入园”之前,边缘侧在场景适配、环境适应性等方面仍面临一系列必须解决的现实挑战:
■ 场景碎片化,需要更灵活的AI算力载体。在企业、园区的“AI大模型助手、机器人智能调度等多样化的边缘场景中,应用业务类型多样,用户需求要覆盖AI推理、视频编解码等负载,有线、WiFi、移动通信等多样化网络环境。一般的服务器难以灵活满足多样化的计算、网络、存储需求,应用适配难;
■ 智能协同难,边缘端的决策执行要更智慧。边缘设备需要与云端协同决策,需综合时延、带宽、计算复杂度、数据隐私和成本。原始数据在边缘预处理后,哪些特征、中间结果或模型参数需要上传?如何最小化上行带宽占用同时不损失云端分析价值?任务与数据协同的智能决策成为智能协同的关键。
为打通算力流动的“最后一公里”,紫金山实验室选择了元脑边缘微服务器EIS860。EIS860作为一款边缘计算盒子,不仅可支撑边缘侧本地支撑自动驾驶、AI大模型推理、微调等应用负载,还可部署接入紫金山实验室建成的“全域一体化数算网调度平台”,调度全国智算中心空闲算力资源,实现云边算力的高效协同。目前,在AI大模型推理场景中,这套云边协同方案,可以帮助企业推理成本降低50%,微调中可实现算效可超过99%,千亿级大模型跨域池化训练算效可达98%,为新型智能算力节点研究提供了稳定可靠的硬件底座。
灵活的AI算力,多场景适应:元脑边缘EIS860搭载业界领先的高性能处理器,配合AI算法框架调优,可同时承担AI推理、视频分析、控制逻辑处理与数据汇聚任务,单机即可本地运行DeepSeekR1 32B大模型AI推理,实现最大20路并发下的高效推理,并可在本地进行模型微调或连接云端算力支撑更大规模参数量的模型负载。
■ 在车路云一体化场景中,用户可在路侧EIS860小站部署轻量化模型,针对障碍物避让等简单场景,实现路侧端毫秒级实时决;
■ 面对复杂交通场景,路侧边缘节点执行实时感知推理,云端负责全局调度与模型迭代,兼顾实时性与复杂场景处理能力;
■ 另外,EIS860以灵活小巧的创新设计架构实现极强的场景嵌入能力,体积小、功耗低,环境适应力强,能够灵活、隐蔽地部署在车间、办公室等狭小空间,保障AI应用的稳定运行。
开放架构,集群智能协同:EIS860采用开放硬件架构,提供标准化接口与驱动支持,兼容主流及自研系统。其可将CPU、AI算力、内存等资源虚拟化封装,并向算力网络主动上报“--能力清单”,实现资源无缝接入。多设备间更支持低时直连通信,能自主完成算力聚合或任务接力,构建高效自治集群,提升系统整体鲁棒性与灵活性。EIS860内置Docker,通过标准化封装和快速部署,实现应用动态资源调度和远程资源管理,支持单机和集群调度,提升系统整体鲁棒性与灵活性。此外,当网络中断时,EIS860具备的本地决策和执行能力,以保障业务连续性。
从央视《开讲啦》中的未来畅想,到可验证、可落地的技术实践,元脑边缘服务器正助力紫金山实验室将未来网络的蓝图,一步步转化为可测试、可验证、可推广的示范应用。当无数这样的“神经末梢”被连接、被激活,一个算力任意流动的智能时代将加速到来。
访问 AIStoreAIStore是基于元脑生态打造的商业协作线上平台,作为知识资源平台、交流服务平台和商机孵化平台,赋能“百模”与“千行”的对接,目前已上架200+产品和方案,在智能票据识别、AI工业质检、代码生成、视觉智能标注、AI健康助手等领域实现成功牵手和落地应用,助力千行百业加速AI产业创新,高效释放生产力。

扫码访问AIStore