「性能提升」共找到 4036 篇相关文章
vLLM Ascend超越MindIE？ 昇腾推理Qwen3与DeepSeek R1 Distill性能实测
国内开发者在昇腾NPU上进行大模型推理面临挑战，华为MindIE推理引擎使用门槛高。昇腾联合vLLM社区推出vLLM Ascend插件。本文用GPUStack平台实测其与MindIE性能差异，得出两者在不同场景各有优势的结论。
CapRL：用强化学习突破Image Captioning训练瓶颈，3B模型性能媲美72B
上海人工智能实验室联合团队发布 CapRL，首个将 DeepSeek - R1 强化学习策略用于 Image Captioning。CapRL - 3B 模型在图像描述任务媲美 Qwen2.5 - VL - 72B，已开源，团队持续迭代优化。
小米小爱同学：资源受限下，实现端侧大模型的高性能推理
InfoQ对话小米小爱同学端侧AI负责人杨永杰，了解其团队在资源受限的端侧设备实现大模型高性能推理的策略。目前端侧大模型商业化落地慢，团队提前布局，自研框架，实现超180 tokens/s推理速度，还分享未来突破方向。
The Batch：826 | 提高输出准确性的记忆层
通常提高大语言模型事实准确性需更大模型规模，会增加计算成本。Meta研究人员在transformer架构加可训练记忆层，可高效存储提取信息，提升计算效率，测试显示其能提升模型输出质量。
3 层人群定位 × 5 种赋能手段，企业全员数据能力提升指南 | 极客时间企业版
在AI重构商业规则的当下，数据能力是企业核心竞争力关键。极客时间针对企业数据人才培养痛点，打造全链条数据人才培养体系，分层赋能三类人员，提供多种培养方案和赋能手段助力企业升级。
你永远叫不醒装睡的大模型！多轮对话全军覆没，性能暴跌39%
研究人员进行超20万次模拟实验，耗资5000美元，评估大模型在多轮对话中的表现。结果显示，大模型在多轮对话中性能明显低于单轮对话，平均下降39%，还出现“对话迷失”现象。
AI写代码终于不瞎烧钱了：边车路由让顶级性能成本直降35%
传统模型路由用于写生产代码易掉链子，Cognition发布的Devin Fusion混合模型框架可解决该问题。官方测试显示，它能降35%编码智能成本且质量无明显下滑，从实际测试案例可看出其适用边界。
信通院&清华提出FedRE：用「纠缠」搞定联邦学习三难困境 | CVPR 26
联邦学习中兼顾模型性能、数据隐私和通信开销是挑战，尤其在模型异构场景。信通院和清华联合团队提出FedRE框架，能适配异构与同构场景，保证性能同时保护隐私、降低开销。
让AI自我进化？斯坦福华人博士答辩视频火了，庞若鸣参与评审
斯坦福大学博士生 Zitong Yang 完成「持续自我提升式 AI」博士论文答辩并分享视频。他针对当前模型局限提出解决方案，涵盖合成持续训练、预训练能力自我提升、迈向 AI 设计 AI 三个核心方向，引发行业关注。
Harness Engineering：耗时一周，我是如何将应用的AI Coding率提升至90%的
文章结合Anthropic、OpenAI方法论与项目实践，分享为存量Java应用构建Harness体系，将AI代码率从不到25%提至90%的方法。介绍Harness概念、现状挑战、实战步骤、关键经验及效果，还对其未来发展做了展望。