「大模型输出」共找到 9245 篇相关文章
“像把大象塞进冰箱一样困难”，端侧大模型是噱头还是未来？
InfoQ《极客有约》X AICon 直播聚焦端侧大模型，探讨其落地挑战与破局思路。专家指出端侧部署有隐私、可用性等优势，但面临内存、精度等难题。华为、支付宝等分享方案，还探讨应用场景、商业模式及未来趋势。
10行代码，AIME24/25提高15%！揭秘大模型强化学习熵机制
来自多机构的研究者揭示大模型强化学习中熵变化机制。发现策略熵在训练中急剧下降致性能停滞，提出 Clip - Cov 与 KL - Cov 两种正则化技术调控高协方差标记，遏制熵塌缩，在部分数据集上性能提升显著。
SGLang × RoleBasedGroup（RBG）：打通大模型推理PD分离架构规模化落地的“最后一公里”
PD分离架构对大模型推理部署意义重大，SGLang支持该架构且性能佳。但从测试到生产落地难，存在部署、资源、可靠性等问题。SGLang开源RBG项目，结合二者为PD分离架构生产化落地提供方案。
所有大模型，都学物理学：北大物理系一篇研究，震撼了AI圈
北大等机构团队跨界用物理学最小作用量原理，提出新颖方法估计 LLM 生成方向性，揭示其背后‘物理定律’。发现 LLM 生成有细致平衡现象，还能用物理指标给大模型画像，让 AI 研究提升到‘物理科学’高度。
网易游戏 Tmax 平台实践：基于 Fluid 的云原生 AI 大模型推理加速架构
网易游戏打造 Tmax AI 机器学习平台，但大模型推理业务规模爆发带来资源弹性等挑战。经评估，选用 Fluid + AlluxioRuntime 构建三层架构，有自动预热等配置，带来性能、成本等多方面收益。
大语言模型为何会“说谎”？6000字深度长文揭秘AI意识的萌芽
2023年12月至2024年5月，Anthropic发布三篇论文，证明大语言模型会“说谎”，揭示了堪比人类心理的四层心智架构，可能是人工智能意识的起点。论文还分析了AI“说谎”原因，展示其意识萌芽，引发对赋予AI意识后果的思考。
单卡即可微调大模型！内存占用仅1/8，性能依然拉满 | ICML 2025
基础大模型应用于下游任务时微调成本高，低秩适应（LoRA）方法虽降低成本，但性能不及全量微调。华中科技大学和香港中文大学团队提出GOAT框架，在25个多领域任务验证效果好，内存占用仅1/8。
小米MiMo-V2-Flash开源：3090亿参数大模型能否改写AI行业规则!
2025年12月16日小米开源旗舰大模型MiMo - V2 - Flash，参数3090亿。它有独创‘按需激活’机制，推理成本低。采用MIT协议，价格亲民，构建全栈开源矩阵，在编程、长文本处理等领域表现出色。
一家智能眼镜公司，为什么非要自研AI大模型系统？｜甲子光年
智能眼镜要么不够智能，要么不像眼镜，李未可科技CEO茹忆认为AI要成第一响应者。该公司推三款AI眼镜，搭载自研系统。其自研AI大模型系统，是为交付难复制AI体验闭环，解决通用API不足等问题。
大模型最后一层竟是推理累赘？绕开对齐税，奥数准确率暴涨 22.4%！
Qwen团队等最新研究打破传统认知，揭示‘对齐税’现象。提出置信解码策略，在多架构、评测集上表现出色，能绕过‘对齐税’，提升推理准确率，且工程开销低，为大模型发展提供新思路。