「推理性能优化」共找到 4211 篇相关文章
中科大 × 华为联合突破！SparseRM：1% 参数实现 LLM 偏好建模高效革新
中科大与华为联合提出SparseRM轻量级偏好建模方案，基于稀疏自编码器构建低参可解释奖励模型。实验显示它用不到1%可训练参数，在多任务中性能优，还能融入下游对齐流程，为LLM高效对齐提供新可能。
Nature重磅！清华团队揭秘大模型新规律：告别参数内卷，智能密度每3.5个月翻一番
清华和面壁智能团队研究揭示大语言模型进化的致密律，指出为获同等智能，模型参数量呈指数级下降，最大能力密度约每3.5个月翻一番，还探讨模型压缩、边缘智能等内容。
真正能离线跑的完全开源翻译工具
Argos Translate是用Python写的开源离线翻译引擎，底层靠OpenNMT，推理用CTranslate2。可当库、命令行、桌面软件用，模型是本地zip包，不联网也能用。支持主流及小众语言，有多种使用方式。
DeepSeek-V3.2巨「吃」Token，竟然是被GRPO背刺了
DeepSeek-V3.2发布后引起关注，但长思考版本暴露出Token使用效率不佳问题，消耗远超同类模型。这或与GRPO算法缺陷有关，其目标函数存在长度和难度偏置，长度偏置仍是该版本高Token消耗的原因。
Karpathy：LLM渴望的不是生存，而是你的点赞
Andrej Karpathy指出人们对‘智能’理解肤浅，动物智能与LLM智能源于不同优化压力。动物智能源于自然选择，而LLM智能来自统计模拟、强化学习微调等，两者在多层面有差异，LLM受商业进化影响大。
这些大神在Meta的论文看一篇少一篇了
田渊栋团队剖析可验证奖励强化学习（RLVR）训练动态，戳破参数更新稀疏误区，提出三门理论说明其参数更新定位机制，还为RL训练算法设计提供指导，指出SFT时代参数高效微调方法在RLVR中迁移效果差。
从VLA到RoboOmni，全模态具身新范式让机器人察言观色、听懂话外音
复旦大学等联合推出全模态端到端操作大模型RoboOmni，统一多模态，实现动作与语音协同控制。它重新定义机器人交互范式，让机器人具备“察言观色”能力，还构建了OmniAction数据集，实验表现全面领先。
与DeepSeek-OCR不谋而合，NeurIPS论文提出让LLM像人一样读长文本
NeurIPS 2025 论文提出 VIST 框架，为大语言模型长文本推理提供视觉方案，与 DeepSeek - OCR 理念不谋而合。它模仿人类阅读，有快 - 慢路径协作，在多任务表现优，还让模型‘用眼看文字’，优势明显。
BigBang-Proton: 自回归基座模型统一语言、科学和物质世界
超对称公司发布新版基座模型 BigBang - Proton，实现多学科问题与 LLM 统一预训练和推理，挑战主流 AGI 技术路线。它有三项创新，在多专业学科任务表现出色，还提出宇宙尺度压缩构想。
Agnes：不做通用型智能体丨对话全民AI应用平台Agnes AI
量子位智库对话Agnes AI创始人Bruce Yang，探讨多智能体在AI产品的应用。Agnes AI以Multi Agent架构为核心，上线四月日活破20万。其介绍了核心功能、单多智能体差异、评估维度等，还谈及目标人群、市场规模等内容。