「推理系统优化」共找到 4331 篇相关文章
Qwen-Scope：看穿大模型的“小心思”
Qwen-Scope是基于Qwen3和Qwen3.5系列模型训练的可解释性模块，通过在隐藏层插入SAE提取可解释特征。它能分析模型行为、优化模型，应用于推理、数据、训练、评估等场景，可前往Huggingface或魔搭体验。
社区供稿丨如何抑制大模型的“过度反思”：Yuan3.0 Flash 中的强化学习范式
大模型在企业落地时存在“过度反思”问题，浪费算力。YuanLab.ai团队在Yuan3.0 Flash模型中提出RIRM与RAPO，前者奖励“思考过程”，后者优化训练框架，实现推理效率提升，适用于企业场景。
Transformer已死？DeepMind正在押注另一条AGI路线
谷歌团队借鉴人类联想记忆，提出嵌套学习，解决AI「灾难性遗忘」问题。强调优化器与架构协同进化，构建联想记忆系统。HOPE架构在多任务表现出色，或开启AI从被动训练到主动进化大门。
龙虾让位！硅谷顶流AI「爱马仕」一夜闯进微信，冲上全球第一
硅谷新宠Hermes Agent爆火，GitHub揽6.6万星，原生接入微信引开发者关注。其署名的首篇‘顶会级’论文提出Autoreason推理方法，指出传统‘自我优化’弊端，展示出小模型逆袭等优势。
把 MiniMax M2.7 扔进真实业务里：它替我省了 BI 和程序员的钱
作者测试 MiniMax M2.7，用含复杂数据的 Excel 测试其办公能力，让其开发管理系统验证工程能力，还测试 MaxClaw 多步骤 Agent。结果显示它表现出色，但处理复杂事件仍待优化。
为什么这篇谷歌论文被称为「Attention is all you need」V2
谷歌新论文《嵌套学习：深度学习架构的幻象》引发关注，被称为「Attention is all you need」V2。它指出主流优化器是关联记忆系统，提出嵌套学习范式，构建HOPE架构，为AI设计带来新思考框架。
超强开源OCR，手写体识别能力超dots.ocr，封存多年的老文档数字化有救了。
文章推荐新开源的OCR系统Chandra，它对手写体识别做了优化，官方测评数据显示比dots.ocr强。介绍其适用于多场景及功能特点，还展示了不同场景的识别效果，建议有需求者多对比测试。
瘦身不降智！大模型训推效率提升30%，京东大模型开发计算研究登Nature旗下期刊
京东探索研究院大模型研究登Nature旗下期刊。其提出系统与方法，经四大创新使大模型推理提效30%、训练成本降70%。成果支撑JoyBuild平台，可帮企业将通用模型转化为专业模型，加速商业化落地。
微软31年老员工被裁，六旬老将重新踏上求职路
新智元报道，微软31年老员工Mike Kostersitz被裁。近年AI重组其所在部门，致他命运改写。过去两年硅谷盛行裁员，AI浪潮下，有经验的技术人员首当其冲，像他这样的中层正被系统优化。
自建一个 Agent 很难吗？一语道破，万语难明
作者分享给传统研发平台接入 Agent 开发能力的经验，介绍技术选型、方案落地、系统提示词优化、知识库建设等内容，还提及工具接入、上下文管理等方面，为想自建 Agent 的人提供启发。