「推理性能优化」共找到 4188 篇相关文章
最新智能体自动操作手机电脑，10个榜单开源SOTA全拿下｜通义实验室
通义实验室推出Mobile - Agent - v3智能体框架，在多核心榜单获开源最佳。它能完成复杂任务，在多智能体框架中灵活切换角色。团队搭建云环境基建，从多维度构建数据，用强化学习和多智能体协作提升其性能。
腾讯混元开源 4 个小尺寸模型，主打 Agent 和长文
8月4日，腾讯混元开源四款小尺寸模型，参数为0.5B、1.8B、4B、7B，消费级显卡可运行，适用于低功耗场景。模型具备推理快、性价比高特点，亮点是Agent和长文能力，已在腾讯多业务应用。
图解Vllm V1系列5：调度器策略（Scheduler）
本文是图解Vllm V1系列5，聚焦调度器策略。先回顾vllm v1整体运作流程，接着阐述调度 - 推理的整体流程，包括将请求添加进Scheduler、Scheduler单步调度策略等，还对比了不同场景下的函数及调度逻辑。
细节直逼亚毫米级！港科广分层建模突破3D人体生成｜CVPR 2025
港科广团队提出MultiGO创新方案，借助分层建模思路突破3D人体生成难题。该方案通过三级几何学习框架提升重建质量，在多个测试集上性能领先，且在多领域有应用优势，研究成果入选CVPR 2025，项目代码将开源。
万亿思考模型新速度！蚂蚁开源Ring-2.5-1T：IMO金牌水平，强；混合线性架构，快！
蚂蚁集团发布全球首个开源混合线性架构万亿参数模型Ring - 2.5 - 1T，打破深度思考牺牲推理速度和显存的‘不可能三角’。还同期发布扩散语言模型LLaDA2.1和全模态大模型Ming - flash - omni - 2.0，想做成可复用底座。
当AI从云端“下沉”，Arm如何赋能端侧
端侧AI发展近十年，已进入应用快速拓展期，成为推动消费电子革新重要力量，但面临视觉处理、内存平衡和应用迭代等挑战。Arm推出相关平台与技术，如SME2，提升AI性能与能效，还与厂商合作，持续创新赋能端侧。
LLM+RL遭严重质疑，随机/错误等虚假奖励也能提升至标准效果？
论文在AI领域观察到类似随机给糖或奖励错误答案让孩子成绩提升的现象，‘虚假奖励四大奇招’效果接近用标准答案训练，Qwen2.5 - Math - 7B模型在测试集上性能飙升，还揭示了Qwen特别的原因及随机奖励有效的推手。
万字实录：VLA 范式，具身智能的曙光与迷雾丨GAIR Live
2025年5月9日，雷峰网等举办“具身智能之VLA的实践与突破”线上圆桌沙龙。多位专家探讨VLA定义、起源、技术路线等，指出其面临推理、数据等瓶颈，还讨论了与强化学习结合、数据选择、提升泛化性、长程任务及落地场景等问题。
多快好省，Qwen3混合部署模式引爆MCP
文章介绍Qwen3混合部署模式在MCP中的应用。MCP是AI与外部交互的标准协议，解决传统问题。Qwen3性能强、成本低，有混合思维等特点。通过本地小尺寸和满血版结合部署，实现多快好省，但仍有资源消耗等不足。
12月首炸！可灵 O1 正式发布，全球首个统一多模态视频大模型，强得可怕！
12月快手旗下可灵发布全球首个统一多模态视频大模型Kling O1，标志AI视频进入“全流程语义控制时代”。它将多种视频创作能力统一，有全能引擎等五大亮点，性能对比优势明显，让AI视频生成更可控。