「推理性能优化」共找到 4157 篇相关文章
刚刚，Anthropic发布Sonnet 5，性能接近Opus 4.8，但不一定更便宜
Anthropic发布Claude Sonnet 5，称其为最具Agent属性的Sonnet模型。它在推理等方面性能提升，接近Opus 4.8且价格低。安全评估有改善，但网络安全逊于Opus 4.8。已正式可用，有优惠首发价。
4B小模型数学推理首超Claude 4，700步RL训练逼近235B性能 | 港大&字节Seed&复旦
香港大学NLP团队联合字节跳动Seed、复旦大学发布Polaris强化学习训练配方，让4B模型数学推理能力超商业大模型，且Polaris-4B可在消费级显卡部署，相关内容已全部开源。
爆火论文颠覆RL认知！「错误奖励」让LLM推理暴涨24.6%，学界惊了
最新爆火论文颠覆传统RL训练认知，华盛顿大学等团队证实「伪奖励」可让LLM推理性能提升。研究设置多种伪奖励形式实验，发现其对Qwen模型有效，但并非对所有模型都有效。
微软刚发布Mu模型：支持Windows智能体，小参数跑出10倍性能
今天凌晨微软发布创新小参数模型Mu，3.3亿参数性能比肩Phi - 3.5 - mini，体量小10倍，离线NPU笔记本每秒超100 tokens响应。它支持Windows智能体，架构有多项创新，经训练优化后智能体表现出色。
只用国产GPU训练的大模型性能飙升100%！国内唯一，更懂你
科大讯飞发布全国产算力训练的讯飞星火X1.5，推理效率暴涨100%，综合性能跻身全球顶级。还首发非自回归语音大模型架构，效果提升、成本降低。此外，展示多领域应用成果，发布相关产品，开源智能体平台。
先验+后验加持，大模型能否 hold 住推理预测的现实「溢出」？
多数大模型评估基准依赖固定数据集，难测真实推理实力。字节跳动等推出的 FutureX 动态评测基准，将重点移至动态预测能力。实验显示不同模型在不同任务表现有别，大模型在现实场景运用仍待优化。
语义分割别无脑用Argmax！港中文新算法：三行代码，推理速度提升10倍
香港中文大学提出全新算法框架RankSEG提升语义分割性能。传统方法用threshold或argmax生成掩码并非最优，RankSEG无需重训模型，加三行代码就能提高分割指标，还开源了工具包，其改进版RankSEG - RMA推理速度大幅提升。
OpenAI重新开源！深夜连发两个推理模型，o4-mini水平，笔记本、手机可跑
OpenAI 自 GPT - 2 后重新开源，此次连发两个推理模型 gpt - oss - 120b 和 gpt - oss - 20b。它们性能达 o4 - mini 水平，可在笔记本、手机运行，有宽松许可等亮点，在多测试中表现出色。
让大模型“跑”在手机里：vivo蓝心端侧部署创新揭秘，性能功耗双优！
在AICon2025上海站，vivo AI研究院工程师章苏迟分享蓝心大模型端侧部署方案。介绍端侧大模型优势及应用场景，阐述内存、性能、功耗等指标优化方法，还提及多业务场景应对策略与安全合规措施。
上海AI实验室造出首个「通才」机器人大脑：看懂世界+空间推理+精准操控全拿下
上海人工智能实验室联合多家单位提出通用具身智能大脑框架VeBrain，能集成视觉感知、空间推理和机器人控制能力。它统一三类任务语言建模范式，有“机器人适配器”，配套VeBrain - 600k数据集，性能测试表现出色。