「小模型推理」共找到 8496 篇相关文章
小扎自曝挖人秘诀：小团队我亲自带，豪掷数百亿建GW集群，大家不图天价薪酬只为“造神”
小扎称Meta挖人并非靠天价薪资，人才为“造神”而来。Meta将投数百亿建GW集群，还建天然气发电厂。同时，Meta超级智能实验室内部在激辩是否开发闭源模型，而字节或推轻量级MR眼镜挑战Meta。
打破视觉Token的算力诅咒，RedundancyLens如何为多模态大模型推理减负
多模态大模型的 Decoder - only 架构处理视觉 Token 有计算冗余。合合信息团队提出无需额外训练的动态计算削减方法，在不影响性能前提下降低推理成本，适用于多场景。
让大模型上车：理想汽车硬件协同设计算出最佳边缘模型
长三角洲AI实验室、中科院、理想汽车等找到大语言模型硬件协同设计寻优之路，在相同延迟下降低端侧模型困惑度，压缩模型架构挑选时间。研究揭示缩放定律，打造硬件感知建模框架，找到精度与延迟最优解。
3B小模型吊打72B巨头！轻量级文档解析OCR，性能超Gemini，高效且精准！
Yuliang - Liu团队在GitHub开源轻量级文档解析模型MonkeyOCR，以SRR三元组范式实现高效精准解析，3B参数模型在英文文档解析上超Gemini 2.5 Pro和Qwen2.5 - VL - 72B，还介绍了安装部署、适用场景等。
扩散LLM推理新范式：打破生成长度限制，实现动态自适应调节
随着扩散大语言模型成为热门，但其推理时存在预设固定长度的限制。香港中文大学 MMLab 等提出 DAEDAL，赋予模型根据问题自主调整回答长度的能力，在性能和计算效率上有提升。
小红书，再造一个更有「声」命力的社区
2026年春节，小红书开放多种AI语音新玩法，如语音发布、评论、问一问等，增强社交趣味性。但AI语音落地面临音频理解、生成活人感和响应速度等问题。小红书有天然优势，技术团队自研模型达SOTA水平。
AAAI 2026 Oral｜InfiGUI-G1模型来了，刷新GUI Grounding SOTA
多模态大语言模型发展下，GUI Grounding任务是难题，现有RLVR方法有瓶颈。浙江大学等团队提出AEPO框架，推出InfiGUI - G1系列模型，小参数量刷新GUI基准测试SOTA，代码已开源。
均值至上假繁荣！北大新作专挑难题，逼出AI模型真本事
当强化学习成大模型后训练核心工具，主流方法陷入「均值优化陷阱」，推理能力停滞。北大团队提出RiskPO，将风险规避理念融入优化目标，用MVaR+捆绑策略双管齐下，三大任务表现优异。
没想到，最Open的开源新模型，来自小红书
向来低调的小红书昨日开源首个自研大模型 dots.llm1，它是中等规模的 MoE 模型，在较小激活量下性能良好。其开源力度堪称行业最大，还介绍了数据处理、训练优化等多方面技术细节。
阶跃星辰发布新一代基模 Step 3，原生多模态推理模型，性能达到开源 SOTA
WAIC 2025期间，阶跃星辰上线新一代基础大模型Step 3，7月31日将面向全球开源。还成立“模芯生态创新联盟”，与上海国有资本投资有限公司合作。Step 3性能达开源SOTA，推理效率高，适配多种芯片。