快2倍、省更多，中科曙光FN Neo专为AI推理打造

在近日举办的2026年CCF全国信息存储技术学术会议上，中科曙光正式发布全新升级的AI推理原生存储FN Neo，用一套共享存储池来承接推理业务的各类数据，为AI推理规模化落地提供了新的存力底座。

让推理中间结果“共享”起来

智能体时代加速到来，AI推理业务规模快速扩张，推理占比持续走高。大模型在回答问题时，会生成一批可复用的中间数据（KV Cache），传统模式是把这些数据存在本地，彼此割裂，难以实现跨会话、跨节点复用，拖慢了整体推理效率。

业界过去普遍认为，AI推理更依赖服务器本地硬盘。但随着大模型上下文越来越长、用户并发越来越多，本地缓存显存不足、硬件闲置等问题日益凸显。而集中式存储的池化共享架构，早已在金融、通信等对稳定性要求极高的行业得到大规模验证。

FN Neo将这套成熟能力引入AI推理领域，跳出单节点硬件局限，通过升级资源池化能力，将各个计算节点的中间数据统一管理、跨节点复用，减少了重复计算。在优化大模型推理性能的同时，也大幅提升了昂贵算力硬件的利用率。

快、稳、开放，让AI推理“火力全开”

FN Neo延续了中科曙光高端集中式存储的高性能基因，单阵列带宽可达160GB/s、亚毫秒级时延。实测数据显示，其延迟表现、吞吐量和多请求并发数相比传统本地NVMe方案均有约2倍提升。

作为专为AI推理打造的集中式全闪存储，FN Neo更可实现模型首Token响应时间缩减73%，整体Token吞吐能力提升150%，显著改善用户交互体验。

面向生产级AI业务，仅有性能突破远远不够。FN Neo提供99.999%的高可靠运行保障，通过慢盘自动隔离、故障无损重构等机制，保障推理业务7×24小时不间断运行。

同时，它打通了SAN/NAS/KV（块、文件和键值）三类数据接口，可无缝对接vLLM、LMCache、Mooncake等主流推理框架，企业无需大规模改造现有推理环境即可完成接入，减少多节点的重复存储开销。

FN Neo的推出，补齐了AI推理场景下集中式存储的能力拼图，为Agent、长上下文大模型等业务的大规模落地，提供了一套经过工程验证的存力新选择。

标签：