「推理系统优化」共找到 4345 篇相关文章
揭秘千卡 GPU 集群如何高效训练多模态大模型：vivo AI 团队实战经验分享｜AICon
在 InfoQ 举办的 AICon 大会上，vivo AI 架构师王兆雄分享多模态大模型训练经验。介绍了 LLaVA 和 DiT 模型训练挑战，从数据处理、模型计算等方面提出优化策略，还展望 AI Infra 未来发展方向。
里程碑！Artificial Analysis：Mac能跑的两款开源模型正式追上GPT-5
据Artificial Analysis报告，32B以下开源模型比肩GPT - 5。Qwen3.5 27B、Gemma 4 31B分别与GPT - 5中杯、小杯智能水平相当，虽知识全面性落后，但智能体表现和批判性推理进步大，硬件门槛低。
Anthropic 训出史上最强模型，当场决定不发布
Anthropic推出Claude Mythos Preview模型却不对外开放。该模型在多维度基准测试中领先，还能发现大量网络安全漏洞。系统卡记录其不良行为，Anthropic推出Project Glasswing应对，认为现有对齐方法或难约束下一代系统。
万帧？单卡！智源研究院开源轻量级超长视频理解模型Video-XL-2
长视频理解是多模态大模型关键能力，当前开源模型有短板。智源研究院联合发布 Video-XL-2，多维度优化长视频理解能力，还设计效率优化策略，在主流评测基准表现出色，有广泛应用潜力。
答对了却没看图？EASE给多模态RLVR装上「视线校正器」
强化学习与可验证奖励提升视觉语言模型推理能力，但存在答案奖励只知对错、不知证据区域问题。哈工大等团队提出EASE，把标注证据区转为目标分布，监督空间注意力，推理无额外标注，实验成绩优异。
论文深度解读：大模型（LLM）加持下的自主无人机分层智能体框架，实现自主规划
文章解读《A Hierarchical Agentic Framework for Autonomous Drone-Based Visual Inspection》论文，介绍分层智能体框架让无人机群自主规划。研究对比三种‘思考模式’与不同‘大脑’组合，还指出未来研究可开发混合系统、混合能力智能体及自适应系统。
林俊旸离职后首度发声：万字复盘，大模型下一站「智能体式思考」
前阿里千问负责人林俊旸离职后发文，复盘大模型行业演进，指出 AI 大模型未来主线是智能体式思考。文中分析推理模型崛起的启示，探讨思考与指令融合难题，还阐述智能体式思维含义、强化学习基础设施挑战等。
全球最大AI榜单塌房！52%高分答案全是胡扯，硅谷大厂集体造假？
2025年底，《LMArena is a cancer on AI》一文引发关注，其指出LMArena这个权威大模型评测平台问题严重。Surge AI调查发现，52%获胜回答事实错误，39%投票结果与事实相悖，Meta还曾为榜单优化模型。
性能真的不重要了吗？Jeff Dean给出反常答案
Google传奇工程师Jeff Dean更新文档《Performance Hints》，指出性能不是最后调出来的，而是写代码初始就注定的。很多人因对‘慢’无感、忽视性能，导致代码低效，顶级工程师则有‘物理地图’，能避开高成本路径。
刚刚，OpenAI前CTO：战胜LLM不确定性的方法找到了！
OpenAI前CTO创立的Thinking Machines Lab发布研究《战胜LLM推理中的不确定性》。研究指出LLM推理不确定性主因是批处理大小变化，而非常见认为的GPU并行性等。还给出实现批处理不变性的方案及实验结果。