「推理与计算」共找到 7989 篇相关文章
《AI大模型与异构算力融合技术白皮书》10月10日发布
算泥社区《AI大模型与异构算力融合技术白皮书》10月10日14:00线上发布。AI大模型爆发使算力需求激增，异构算力成刚需。国内外政策与产业驱动其发展，该白皮书能为开发者提供实用技术参考。
SRO赋能Qwen-2.5-VL推理性能飙升16.8%
文本领域推理模型成就大，但多模态大型语言模型推理能力扩展遇阻，如冷启动初始化不足等。提出SRO三阶段训练框架，经测试，ReVisual - R1平均性能提升16.8%。
OpenAI没做到，DeepSeek搞定了！开源引爆推理革命
文章围绕大语言模型推理能力展开，介绍了推理模型概念，回顾RLHF训练流程，对比OpenAI的PPO和DeepSeek的GRPO，还阐述了GRPO开源升级版DAPO的关键技术点及训练中模型的新能力。
只用2700万参数，这个推理模型超越了DeepSeek和Claude
Sapient Intelligence研究者受大脑机制启发提出分层推理模型（HRM），该模型仅2700万参数、1000个训练样本，就在复杂推理任务上超越DeepSeek和Claude等模型，还引入近似梯度等创新设计。
与三位前沿研究者聊AI Agent：规则、环境与热潮下的真问题｜五源小酒馆Vol.31
五源小酒馆对话三位AI Agent前沿研究者，探讨其发展进展、挑战。他们分享对Agent定义、能力边界判断等，提及过去技术突破，如DeepSeek工作，也指出通用Agent瓶颈，探讨未来模型能否提有价值问题等。
南京艺术学院人工智能与计算机视觉算法创新设计成果展示
南京艺术学院‘人工智能与计算机视觉算法创新设计工作坊’汇集师生与专家成果，涵盖多种艺术形式。学生学习多技术完成跨媒体作品，如以《大闹天宫》为蓝本的交互装置，还有探索情绪、文化等主题的作品。
让大模型异步地增强推理能力
在大模型推理时代，Test - Time Scaling成提升能力重要方向，但面临效率问题。ATTS提出异步框架，加入共形预测筛选候选路径，实验显示其加速显著，将测试时扩展推进到‘有原则加速’阶段。
AI Infra入门干货总结：大模型是如何高效推理的
作者深入研读vLLM源码，以Llama 3为例，聚焦Decoder-Only架构LLM，介绍推理各环节及张量维度变化，讲解连续批处理和Paged Attention概念，还阐述推理流程、采样策略等，最后总结相关拓展内容。
拒绝不必要Think：微软&北大提出第一种自适应大型混合推理模型
大型推理模型冗长思考开销大，微软研究院和北大提出大型混合推理模型（LHRMs），它能依查询上下文决定是否思考。介绍了两阶段训练流程、评估指标，实验显示其超越现有模型且效率高。
从Demo到行业落地的Agents：技术、应用与评估
通用LLM Agent工业落地有短板，哈工大深圳与华为提出L1 - L5工业Agent能力成熟度框架，映射技术演进与产业场景，覆盖50+行业案例、300+评测基准，给出可量化‘爬级’路线。