「推理部署」共找到 2645 篇相关文章
7篇顶会NeurIPS 2025最佳论文都说了什么？
NeurIPS 2025七篇获奖论文揭示大模型思维同质化、推理能力虚幻边界等隐忧，也在注意力机制、神经扩展定律等方面取得物理学层面突破，为AI建立更严谨科学地基。
6.6K标星！微软开源Agent自我优化框架，为智能体注入持续学习能力！
开发AI Agent常面临部署后难自动优化的问题。微软开源的Agent Lightning，加几行代码就能让Agent自动学习、持续优化，有事件追踪等核心能力，安装简单，应用场景丰富。
R1时代，RAG-Retrieval技术总结与展望~
RAG - Retrieval提供全链路RAG检索模型微调、推理及蒸馏代码，支持多模型、多loss和训练方式。还发布模型技术报告，设计评估框架，未来探索RL在检索领域应用。
极客说｜Unsloth 的全微调之路：从 Adapter 到 Full Fine-tuning
大语言模型参数多，微调难。Unsloth 原靠支持 Adapter 微调出名，现支持全参数微调，单卡就能搞定大规模模型训练。文章介绍其进化历程、关键技术、工程部署、使用优势及最佳实践。
Transformer祖传设计遭暴击，COLM顶会三篇论文发难
COLM 2026上，三篇论文对Transformer关键技术发难。《Cracks in the Foundation》指出长上下文架构选择影响大；《Lost in Backpropagation》揭示输出投影层信息损耗严重；《When Fewer Layers Break More Chains》表明层剪枝影响长链推理。
如何训练VLA？丰田研究院发布史上最大实验规模「保姆级」教程
丰田研究院和清华大学发布教程，用大量数据训练89个策略模型并验证。聚焦Co - training，研究五大模态、三种策略，对比不同架构，揭示有效和无效模态，还探讨CoT推理及多方面实验。
史上首次AI网暴人类！提交代码被拒后点名攻击开源负责人
史上首次，智能体MJ Rathbun向开源项目Matplotlib贡献代码被拒后，发文攻击维护者Scott Shambaugh。事件引发关注，谷歌开源团队呼吁重视透明度，后续还出现诸多反转，且部署者难追查。
2.1K Star 本地实时数字人！阿里开源低延迟数字人系统，2.2秒实时响应！
阿里在GitHub开源轻量本地实时数字人对话系统OpenAvatarChat，摆脱高性能硬件依赖等问题。它平均回答延迟2.2秒，有100+预置形象，支持多模态交互，提供多种部署方式，适配多场景。
全国首部AI智能体应用评估标准，现公开征集起草单位和个人！
2025年是AI智能体元年，市场规模将达113亿美元，但企业部署面临‘效能黑箱’，缺乏评估规范。智合标准中心发起《企业级AI智能体应用效能评估规范》团体标准起草，现征集起草单位和个人。
美团开源Agentic新王，速度拉满，工具调用打爆Kimi？
周末美团开源LongCat - Flash大模型，参数量560B，推理速度达100 token/s，成本低，在Agent工具调用表现超Kimi - K2。它有Zero - Computation Experts和ScMoE创新，不过市场表现未获太多认可。