产品应用8

瑞芯微：端侧AI从技术到商用的实践者

芯师爷2026-07-19

AI 摘要

WAIC 2026上，瑞芯微展示端侧AI成果，大模型展区推理性能强，Agent展区成果多，AI+应用涵盖电视、机器人等。采用双轨并行策略，规划2026年推出新产品，推动量产落地。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

Agent助力Diffusion模型多方面优化

本文记录基于Agent完成Qwen-Image、FLUX.2、Wan和SANA Video优化的过程，包括定位问题、写Kernel及遇到的坑。介绍SGLang Diffusion Kernel结构，分析数值敏感原因，展示各模型优化实践、无收益实验及验证流程。

9月1日，Hugging Face上线星火X2.5-4B和1.7B开源端侧模型，在多指标测试中表现优异，实现“越级打怪”。该模型基于全国产算力平台训练，在断网笔记本上实测效果惊艳，使用了两项技术提升能力，适配性强。

昨晚，Anthropic发布Fable 5.1和Mythos 5.1，这代沿用Fable 5参数，性能提升聚焦长任务，还降低缓存读取价。它在游戏、视频等多个领域表现出色，与同类模型对比进步明显，虽价格贵，但能力、速度有提升。

吴恩达新作Prefix Sliding指出，模型推理时丢弃中间已贬值token，只保留前缀+滑动窗口，无需训练可提速3倍，配合RL训练能将推理轨迹扩展到10万token以上。该方法为Agent场景提供新思路。