科大讯飞开源两款端侧模型，AI竞争从比“大”转向比“好用”

过去几年，大模型行业习惯用参数规模衡量能力。模型越大，通常意味着训练数据更多、推理能力更强，也更接近能力上限。

但当AI真正进入手机、PC、电动汽车、智能家居和机器人等终端后，参数规模不再是唯一标准。模型还必须满足低延迟、低成本、低功耗、易部署和数据本地化等现实要求。对于终端厂商和企业来说，一个理论能力更强，却跑不起来、用不起或难以适配的模型，实际价值并不高。

AI竞争正在因此发生变化。云端大模型继续追求能力上限，端侧模型则需要在有限算力和功耗条件下，把具体任务做好。行业关注的重点，也开始从模型有多大，转向模型在真实场景中是否高效。

9月1日，科大讯飞全资子公司词元星火开源星火X2.5-4B和星火X2.5-1.7B两款端侧通用大模型。两款模型原生支持最长100万Token上下文，并强化代码、智能体和指令遵循能力。同时，模型权重、代码仓库和部署文档同步开放，支持多类硬件平台及主流推理框架。

这次开源释放出的行业信号是，端侧模型不必复制云端大模型的规模，也可以通过针对性设计和工程适配，在具体设备与任务中形成实用能力。

端侧模型拼的不是“大而全”，而是“够用且高效”

端侧AI的发展，首先是被现实需求推出来的。

云端模型拥有更充足的算力和更强的通用能力，但每次推理都要经过数据上传、云端处理和结果回传。随着AI应用和智能体快速普及，推理需求持续增长，云端成本、网络延迟和数据安全问题逐渐突出。

相关行业报告显示，2026年AI推理计算需求预计达到训练需求的4至5倍。大量请求集中在云端，不仅会增加基础设施压力，也会带来持续的调用成本。自动驾驶、智能座舱和工业控制等场景对响应速度要求极高。办公、医疗和金融等场景则涉及合同、客户资料、研发代码等敏感信息，不适合频繁上传至外部服务器。

端侧模型可以把部分推理能力放回设备本身，让高频、实时、隐私敏感或弱网环境下的任务在本地完成。它的价值不在于全面取代云端，而在于提供一条更贴近设备和用户的运行路径。

这也决定了端侧模型不能简单追求参数规模。手机、PC、汽车和机器人拥有不同的内存、算力与功耗条件。模型越大，部署门槛和运行成本往往越高。相比之下，一个参数规模更小、但经过场景优化的模型，可能更适合承担本地问答、文档处理、语音交互和设备控制等高频任务。

小模型并不是大模型的低配版，而是一种面向落地的技术方案。它的通用能力可能没有云端旗舰全面，但部署成本更低，响应速度更快，也更容易围绕具体业务进行优化。模型不需要什么都懂，而是要在用户真正需要的地方足够稳定。

星火X2.5-4B＆1.7B的真正价值，是把有限参数变成有效能力

星火X2.5-4B和1.7B的能力设计，正对应了端侧AI落地中的几个关键问题。

首先是长上下文能力。端侧模型过去常常受限于上下文窗口，面对完整的产品手册、项目资料或代码仓库，需要将内容切分后分段处理。信息被拆开之后，章节之间的关联、前文提出的限制条件以及多轮对话中的关键信息，都可能被遗漏。

星火X2.5-4B＆1.7B原生支持最长100万Token上下文，使模型能够在同一个任务空间中处理更完整的资料。对于办公场景，它可以更连续地理解企业文档、业务规则和历史信息。对于智能硬件，它也能够处理包含多个条件的复杂指令。

长上下文的意义，并不只是容纳更多文字，而是让小模型在具体任务中拥有更完整的判断依据。

代码和智能体能力，则让模型能够进一步参与任务执行。真实办公并不是生成一段文字就结束了。模型还需要读取数据、执行计算、调用工具，并根据结果继续推进。办公需要处理表格和文档，智能家居需要调用设备接口，机器人则要结合环境信息规划动作。

星火X2.5强化代码、智能体和指令遵循能力，意味着模型可以围绕一个目标参与更多连续环节。长上下文帮助模型理解任务背景，代码能力支持数据处理和脚本执行，智能体能力推动任务拆解与工具调用，指令遵循则让结果更贴合用户要求。

几项能力结合起来，端侧模型的评价方式就不再只是看参数大小，而是看它能否在有限资源下稳定完成任务。少占资源、少依赖网络，并在具体业务中持续产生有效结果，这才是场景效率的核心。

开源也让这种效率更容易被验证和放大。星火X2.5-4B＆1.7B支持英伟达、华为、海光、后摩等多类硬件平台，兼容vLLM、SGLang、llama.cpp等主流推理框架，并支持通过相关工具进行部署和增量微调。开发者和硬件厂商可以根据自身需求完成适配，将模型接入企业内网、办公软件和智能终端。

未来，端侧AI不会取代云端，而会与云端形成更清晰的分工。云端承担复杂推理和大规模任务，端侧处理高频、实时、隐私敏感的本地需求。

大模型决定AI能力的上限，小模型决定AI能否进入更多设备和场景。星火X2.5-4B＆1.7B的开源说明，AI竞争正在从参数规模转向场景效率。模型只有真正跑起来、用起来，并在现实环境中稳定完成任务，才算完成了从技术能力到产业价值的转换。

标签：