搜索：推理性能优化

「推理性能优化」共找到 4157 篇相关文章

普林斯顿等高校提出AgentDistill：无需任何训练即可继承大Agent复杂能力，性能提升48%，成本降低90%

在AI领域，大型语言模型智能体计算需求大限制部署，传统蒸馏技术对智能体效果有限。AgentDistill提出解决方案，让学生智能体复用教师智能体的MCP工具包，无需训练继承复杂能力，小模型性能显著提升。

先进多模态大模型处理高分辨率图像有瓶颈，复旦和南洋理工研究者提出基于视觉Grounding的多轮强化学习方法MGPO，能让模型精准推理，还可使模型从答案反馈中涌现视觉定位能力，避免依赖昂贵标注。

在AI驱动的数据时代，WaterCrawl是基于Python和Scrapy的开源网页爬虫工具，专为大规模数据提取和LLM优化设计，支持多语言内容抓取、实时进度监控和深度AI平台集成，优势显著。

不到两周前 Kimi K2 超越其他开源非推理模型，如今阿里巴巴发布基于早期 Qwen3 - 235B - A22B 的三款新大语言模型权重，介绍了输入输出规格、架构设计、性能表现、使用方式等，还进行了性能对比。

基于优化的偏微分方程求解方法受关注，但实际慢于经典迭代求解器。本文从条件数角度审视效率瓶颈，指出标准MSE损失导致条件数平方放大、减缓收敛。提出稳定梯度残差损失SGR，在收敛速度与稳定性间建立平衡，实验验证其有效性。

OpenAI深夜推出gpt-oss 20B和120B两款开源模型，性能比肩o3-mini和o4-mini，能在消费级显卡甚至手机运行。有宽松许可证等亮点，还准备了体验网站。这是自GPT - 2后首次开源，降低了部分群体准入门槛。

上海AI Lab联合多家机构开源Yume1.5，针对视频生成构建可交互“世界模型”的核心难题，提出时空信道联合建模（TSCM），实现近似恒定计算成本的全局记忆访问，展示了世界模型工程化落地的可行路径。

具身机器人成科技新热点，大家期待其释放生产力。小米首代具身VLA大模型Xiaomi - Robotics - 0抓间歇停顿问题，4.7B参数规模下推理延迟仅80ms，还做三项技术创新，且全面开源。

中国科学院自动化所李国齐、徐波团队发布类脑脉冲大模型SpikingBrain (瞬悉)-1.0，借鉴大脑信息处理机制，适配国产沐曦GPU，长序列推理提速超百倍，仅用2%数据匹敌主流模型，探索构建国产自主可控类脑大模型生态。

阿里千问技术负责人林俊旸离职后发声，复盘 Qwen 训练尝试，指出合并 thinking 和 Instruct 模式不理想。他认为大模型未来应从‘推理思维’走向‘智能体思维’，并阐述了智能体思维的特点和挑战。