「低功耗场景」共找到 2779 篇相关文章
vLLM 技巧： 在几秒钟内无需重启释放90%的 GPU 显存
EmbeddedLLM介绍vLLM新功能“休眠模式”，可在不重启服务时几秒内释放约90% GPU显存，实现模型热插拔与高效轮转，还介绍使用方法、不同休眠级别，提醒生产环境要确保安全。
研究显示：AI 并没有提升编程效率，它反而让你变慢了19%
METR研究显示，16位资深开发者在真实项目测试中，使用AI工具效率降低19%。分析发现，编写提示词、等待响应等耗时多，保留代码仅44%。研究指出多因素致效率低，网友看法不一。
我国科研团队，突破了存算一体技术瓶颈
AI浪潮倒逼半导体产业创新，存算一体技术应运而生。但该技术应用存在问题，排序难题制约其发展。北大团队国际首次实现基于存算一体技术的高效排序硬件架构，成果发表在《自然∙电子》。
比10年专业医生准4倍！微软发布突破性医疗AI系统
微软首席执行官分享新发布的医疗AI系统MAI - DxO，它模型无关，能适配不同语言模型，模拟医生诊断流程。测试显示其准确率远超专业医生，成本大幅下降。此外还发布序贯诊断基准SDBench。
具身智能的终极命题：是造「人」还是造「生产力」？
华为开发者大会 2025 发布 CloudRobo 具身智能平台，为具身智能带来新视角。工业和商业场景实践显示，具身智能终极目标是锻造普适的「生产力引擎」，产业竞赛关键在于打造「群体智能协同」。
直播预约 | 强化学习训练能否不依赖外部知识优化模型的弱点？
论文提出 SwS 框架，针对强化学习场景，利用模型自我感知弱点驱动自动化问题生成，合成针对性训练数据。还对其进行多项扩展，在多个基准测试集和模型上验证有效，性能提升显著。
我在哪？要去哪？要怎么去？字节跳动提出Astra双模型架构助力机器人自由导航
当今机器人导航系统在复杂室内环境面临挑战，字节跳动研发创新双模型架构Astra，含Astra - Global与Astra - Local子模型。经实验验证其性能佳，未来有广阔应用前景，但也存在需改进之处。
OCR-Reasoning：揭秘多模态大模型在复杂图文推理中的真实能力
主流OCR评测基准聚焦信息抽取，复杂图文推理任务中多模态大模型深度推理能力缺乏评估标准。OCR - Reasoning可系统性评估，还列举多种推理示例，并测评了Qwen2.5 - VL - 7B模型。
ACL 2025 | 大语言模型正在偷改你的代码？
本文聚焦大语言模型在代码推荐中的「供应商偏见」，通过分析7个主流大模型在30个场景的59万次响应，发现模型会偏好特定供应商，甚至擅自修改代码，还探讨了风险、局限并给出展望。
苹果拆解AI大脑，推理模型全是「装」的？Bengio兄弟合著
苹果最新研究揭示大推理模型（LRM）在高复杂度任务中普遍‘推理崩溃’。即便给予明确算法提示，模型亦无法稳定执行，暴露推理机制的局限性。研究还通过多种实验环境分析了模型在不同复杂度问题中的表现。