「推理加速技术」共找到 4901 篇相关文章
Hermes Agent 技术深度拆解：36000 Star 背后的架构设计，以及你该怎么用它
Hermes Agent 9 个月获 36800 Star，解决记忆断裂、能力天花板和平台绑定问题。它有四层记忆架构、自主技能进化，支持 200+ 模型，还有 40+ 内置工具、15 个平台适配器。最新 v0.8.0 版本有多项更新，文章还给出使用建议和对比。
别被室内基准高分骗了：大模型是在推理空间，还是在「背答案」？
2025年，空间智能成大模型竞争新热点，模型在室内基准上分数飙升。但因训练与测试数据同源，其提升或只是“背答案”。中科院大学等机构发布OSI - Bench重新审视大模型空间能力，评测显示当前提升可能是虚假繁荣。
智能体如何学会「想象」？深度解析世界模型嵌入具身系统的三大技术范式
长期以来具身智能系统缺预测力，世界模型让智能体有了‘想象’未来的能力。中科大等机构团队综述将现有研究划分为模块化、顺序、统一三大架构集成范式，并指出未来研究方向。
AI视频进入“加速度”时代：30%加速＋细节随手P，等等党和抽卡党都有救了！
AI视频进入“加速度”时代，拍我AI（PixVerse）V5 Fast上线。其生成速度提升超30%，还推出Modify精修功能，支持万物替换、局部修改、人物编辑等，让AI视频从一次性生成走向可反复打磨。
安谋科技Arm China闪耀2025全球计算大会｜赋能绿色算力，加速AI普惠
安谋科技Arm China受邀出席2025全球计算大会，参与多项活动。深度参与撰写《算力经济绿色研究发展报告》，推进本地化标准建设，还在具身智能领域发力，其“周易”NPU IP将助力具身智能落地。
扩展外部测试时Scaling Law，中关村学院新发现：轻量级验证器可解锁LLM推理最优选择
文章聚焦大语言模型‘测试时扩展’，指出内部方法接近瓶颈，外部方法的传统实现有缺陷。提出 TrajSelector 策略，用轻量级打分模型复用隐状态打分，训练无需手动标注，实验显示性能增长稳定。
从Transformer到Agent：生成式AI行业技术路线与职业发展指南，深度解析AI价值链
文章深度解析生成式AI行业，介绍其宏观图景、商业运作、行业定位与战略考量。指出行业价值链呈“杠铃”形态，应用层机会大，还提及盈利模式、岗位薪酬、开源闭源之争等，为从业者提供职业指南。
搜狐架构演进技术实践：我们如何用 MCP Registry 根治 AI Agent 的“千具之灾”
本文讲述搜狐团队在构建企业级 AI Agent 时遭遇‘千具之灾’，当前路由模型方案引发‘治理噩梦’。后通过研究 MCP Registry 获新思路，设计新架构，构建 PoC 原型，并对混合路由等问题展开思考。
EMNLP25 | "大模型在环"技术新突破：Dial-In LLM 推动中文客服意图聚类新范式
本文提出LLM-in-the-loop意图聚类框架，以传统聚类为骨架，微调后的中文LLM做语义裁判和命名批注。在10万+真实客服通话数据集上超越基线，解决现有方法依赖词向量、缺乏可解释性、调用大模型成本高的问题。
ChatGPT到底学了多少「污言秽语」？清华团队首提大语言模型中文语料污染治理技术
清华等团队研究发现，先进ChatGPT系列模型中文词表污染达46.6%，含色情、赌博等词元。团队定义分类中文污染词，构建识别模型，还能由词表污染估计数据污染，为语料治理提供方案。