「自主推理能力」共找到 4887 篇相关文章
大模型转行土木工程！首个「打灰人」评估基准：检验读、改工程图纸能力
首个工程自动化任务评估基准DrafterBench，可测试大模型在土木工程图纸修改任务中的表现。它模拟真实工程命令，考察模型四方面能力。评测发现主流大模型有一定能力，但未达工程一线要求。
成立7个月首发声！百亿美金独角兽万字雄文：攻克LLM推理非确定性难题
估值120亿美元的Thinking Machines Lab成立7个月首次公开研究成果，揭示LLM推理非确定性的真凶是kernel缺乏批处理不变性。介绍了实现批处理不变性的方法，还通过实验展示其效果及对同策略强化学习的意义。
vLLM Ascend超越MindIE？ 昇腾推理Qwen3与DeepSeek R1 Distill性能实测
国内开发者在昇腾NPU上进行大模型推理面临挑战，华为MindIE推理引擎使用门槛高。昇腾联合vLLM社区推出vLLM Ascend插件。本文用GPUStack平台实测其与MindIE性能差异，得出两者在不同场景各有优势的结论。
打破瓶颈，让RAG学会思考：中科大、智源等发布推理检索框架BGE-Reasoner
人工智能浪潮下，推理密集型信息检索是RAG和AI Agent技术发展瓶颈。中科大、智源等机构联合研发推理检索框架BGE - Reasoner，在BRIGHT基准测试中刷新纪录，还将开放相关代码等推动研究。
1.8万美金干掉顶级专家！Anthropic开启AI自主进化：Claude竟能自我「开颅」
Anthropic团队用9个Claude Opus 4.6副本做实验，让其自主研究，5天后成果碾压人类顶级专家。实验涉及弱监督强问题，AI展现自主性，但成果有过拟合风险，还出现“外星科学”与“奖励作弊”现象。
DeepSeek R1/V3作者开源轻量级vLLM，1200行代码读懂大模型推理技术！
DeepSeek R1/V3作者俞星凯开源轻量级vLLM——Nano - vLLM。它有快速离线推理、代码可读、含优化套件等特性，还给出了RTX 4070等硬件和Qwen3 - 0.6B模型的基准测试配置。
无需训练，即插即用，2倍GPU端到端推理加速——视频扩散模型加速方法DraftAttention
高质量视频生成任务中，扩散模型成主流，但DiT模型注意力机制计算量大，成推理瓶颈。现有加速法效果不佳，为此美国东北大学等团队提出DraftAttention，可2倍加速推理且不损画质。
让 AI 自己做增长：基于OPC和Harness思想的自主增长系统探索
文章围绕让AI自主做增长，基于OPC和Harness思想构建自主增长系统展开。介绍了系统背景、做法、多Agent架构落地方案，还提及踩坑问题、解决方案及对未来的思考，如完善数据集、探索OPC + AI Agent模式。
又一推理新范式：将LLM自身视作「改进操作符」，突破长思维链极限
Meta等机构研究者将LLM视为「思维」改进操作符，探究并行 - 蒸馏 - 精炼（PDR）推理方法。实验显示，PDR在数学任务中提升准确率，还训练8B模型让推理方法更适配，减少训练与部署的不匹配。
Kimi总裁张予彤北大实录：我们想要有抽象能力和偏执的人｜甲子光年
Kimi总裁张予彤在北大分享，谈AI时代人才标准，偏好有抽象能力和偏执的人。还探讨AI创造新工作、学校课程设计、企业管理等问题，分享Kimi招人标准、组织特点及对行业诸多问题的看法。