「端侧推理模型」共找到 8395 篇相关文章
3B激活参数！商汤绝影Sage登顶PinchBench，端侧第一
商汤绝影Sage端侧大模型在PinchBench评测中，以94%任务完成率超越Claude、GPT - 5.4等主流大模型。它激活参数仅3B，算力需求低，还具备多项实用场景能力，靠SCOUT和ERL两项自研技术提升性能。
究竟会花落谁家？DeepSeek最新大模型瞄准了下一代国产AI芯片
近期，DeepSeek发布V3.1新模型，采用全新混合推理架构，在多任务表现上有提升。它采用UE8M0 FP8，或为国产推理芯片优化机制。国内多家厂商新一代AI芯片支持FP8，未来国产大模型或针对其专门优化。
大语言模型离“数学证明高手”还有多远？斯坦福、伯克利、MIT 团队提出 IneqMath 评测标准
现在很多大语言模型常给出看似正确的结论，但推理过程却有问题。斯坦福、伯克利和MIT团队提出新思路，构建IneqMath数据集及‘AI数学裁判系统’，研究发现很多模型推理不严谨，还给出两个提升准确率的办法。
蚂蚁开源 Ring-1T，成就推理、编程、通用智能三冠王
蚂蚁开源团队推出 Ring-1T 模型，它结合强化学习与多阶段推理机制，实现从‘模仿’到‘思考’的转变。该模型在多基准测试表现优异，其高性能得益于 IcePop、C3PO++、ASystem 三项关键技术。
大模型热度退潮，真正的技术创新者开始被「看见」
过去两年中国大模型投资多是商业模式驱动，而技术投资注重创新。DeepSeek 出圈后，独立创新成主流。今年国内大模型吸金热度下降，但智谱 AI、面壁智能仍获融资。面壁智能发布 MiniCPM 4.0，在多方面优化，展现端侧优势。
强化学习新发现：无需数学样本，仅游戏训练AI推理大增
莱斯大学、约翰斯・霍普金斯大学和英伟达研究团队有颠覆性发现，让多模态大语言模型玩简单游戏，无需数学样本，就能显著提升其多模态推理能力。提出的ViGaL方法在多个基准测试中表现出色。
阿里云飞天企业版X平头哥“真武”芯片，推理性能跃迁13倍，底层逻辑是什么？| Q推荐
过去几年，模型虽强但使用成本高，阻碍企业级AI深度应用。今年‘模型推理’成AI关键词，4月13日19:00，InfoQ联合阿里云邀专家围绕推理加速底层破局展开对话，探讨算力博弈、芯片性能跃迁等问题。
冲上热搜！美团大模型，靠「快」火了
国内外开发者亲测，美团新开源的LongCat - Flash - Chat模型速度超快，推理速度超每秒100个token。它来自美团LongCat - Flash系列，官网可直接用。该模型架构创新，训练方法高效，还做了专属和系统级优化，跑起来又快又便宜。
中国中文信息学会大模型与生成专委会2025大模型战略研讨会成功举办
2025年6月27日，中国中文信息学会大模型与生成专委会2025大模型战略研讨会在哈尔滨举办。会议探讨技术革命、交流成果、发布基金，多位专家作报告、参与思辨讨论，聚焦大模型多方面话题。
刚刚！Thinking Machines Lab ｜ 长文揭开LLM推理不确定性真相！
Thinking Machines Lab发布《克服LLM推理中的不确定性》，揭示大语言模型推理不确定性原因，并非“并发 + 浮点”假设那么简单，主要是负载及batch size不确定所致，还给出让核函数有批次不变性的方法及实验结果。