百度文心5.5 Flash Preview 今天发布。 几个关键参数:总参数280B,每次推理只激活 14B,支持 1M
向阳乔木
@vista8
·
2026-11-11
·2 次浏览
百度文心5.5 Flash Preview 今天发布。
几个关键参数:总参数280B,每次推理只激活 14B,支持 1M 长上下文,千帆 API 单用户推理速度 200+ tokens/s,Apache 2.0协议开源,支持 SGLang 和 vLLM 部署。
编程能力据说提升显著:
训练数据用了超过1400万个可执行代码任务,加上多 Agent 框架真实执行轨迹,模型不仅能写代码,还能接管复杂软件工程任务。
WebDev、游戏开发、3D仿真、视频编排,描述需求能直出可运行交互。
知识工作的训练规模也很大:
30万个工作空间、1000万份文件、40余种文件类型,后训练覆盖金融、法律等专业领域。
分散的材料扔进去,模型能自主规划任务,调 MCP 工具和Skill,直接交付可用的表格、文档和报告。
架构层面做了几件事:
混合稀疏注意力解决长上下文 KV Cache 显存占用,多路由器 MoE 加 ECHO 多 Token 预测在提升能力的同时压低计算开销,FP4 专家权重和 草稿头专门针对 Agent 任务提速。
280B参数每次仅激活 14B 还能跑到 200 tokens/s 以上,就是得益于上面的构架组合。
百度早些时候披露了自动研究系统 ERNIE Evolve,能自主提出研究方向、开展实验、验证结果、积累经验,在NanoChat AutoResearch 和 NanoGPT Speedrun 两项任务三个评测指标上,拿到目前公开验证 SOTA。
据说系统已参与了文心 5.5 Flash 的推理优化,包括低时延场景性能优化、确定性推理吞吐优化和极致解码速度优化,用 AI 系统来优化 AI 模型,这就是大家常说的 RSI 吧,加油!
Openrouter 能免费用,抽空体验下,看看实际模型质量怎么样。
几个关键参数:总参数280B,每次推理只激活 14B,支持 1M 长上下文,千帆 API 单用户推理速度 200+ tokens/s,Apache 2.0协议开源,支持 SGLang 和 vLLM 部署。
编程能力据说提升显著:
训练数据用了超过1400万个可执行代码任务,加上多 Agent 框架真实执行轨迹,模型不仅能写代码,还能接管复杂软件工程任务。
WebDev、游戏开发、3D仿真、视频编排,描述需求能直出可运行交互。
知识工作的训练规模也很大:
30万个工作空间、1000万份文件、40余种文件类型,后训练覆盖金融、法律等专业领域。
分散的材料扔进去,模型能自主规划任务,调 MCP 工具和Skill,直接交付可用的表格、文档和报告。
架构层面做了几件事:
混合稀疏注意力解决长上下文 KV Cache 显存占用,多路由器 MoE 加 ECHO 多 Token 预测在提升能力的同时压低计算开销,FP4 专家权重和 草稿头专门针对 Agent 任务提速。
280B参数每次仅激活 14B 还能跑到 200 tokens/s 以上,就是得益于上面的构架组合。
百度早些时候披露了自动研究系统 ERNIE Evolve,能自主提出研究方向、开展实验、验证结果、积累经验,在NanoChat AutoResearch 和 NanoGPT Speedrun 两项任务三个评测指标上,拿到目前公开验证 SOTA。
据说系统已参与了文心 5.5 Flash 的推理优化,包括低时延场景性能优化、确定性推理吞吐优化和极致解码速度优化,用 AI 系统来优化 AI 模型,这就是大家常说的 RSI 吧,加油!
Openrouter 能免费用,抽空体验下,看看实际模型质量怎么样。
♥ 14
↻ 0
💬 20
❝ 2
777 字



