「双层效率优化框架」共找到 2279 篇相关文章
Unsloth让大模型跑在手机上！
Unsloth放出教程，可将其微调模型部署到Pixel 8和iPhone 15 Pro。用ExecuTorch技术优化，Qwen2 - 0.5B在旗舰机上表现流畅。教程介绍量化感知训练控制精度损失，还给出iOS和Android部署步骤及注意事项。
VLM 实现 10%的精度提高，13.1倍加速！纽约大学新算法让视觉语言模型更小、更快、更准确
纽约大学研究团队用QSVD新方法让视觉语言模型（VLM）效率飞跃，在普通GPU上实现13.1倍加速。它将Q、K、V矩阵捆绑处理，设计秩分配策略，引入量化方案，经多模型评估，展现出低硬件成本、高精度优势。
曾经年薪百万的架构师，如今是否要靠AI保饭碗？对话5位顶尖架构师：未来的架构师，不写代码也得懂AI
文章围绕AI时代架构师角色转型展开，多位专家认为AI引发架构师角色定位转变，新职业形态涌现。AI工具提升开发效率，架构师需转向战略层面，还探讨了AI对架构设计流程、团队协作的影响及应对建议。
AI原生产品不等于全部功能AI化，保留传统功能让用户体验更完整 | 对话小卡健康
AI健康管理赛道竞争激烈，产品各有差异。量子位智库访谈小卡健康产品负责人李雅，探讨AI如何赋能、产品功能拓展、数据指标关注、智能设备联动、开发问题及运营推广等，展示其差异化策略和发展思考。
最高能效比！他又死磕“存算一体”2年，拿出全新端边大模型AI芯片
后摩智能CEO吴强在今年WAIC期间发布业界能效比最高的存算一体端边大模型AI芯片后摩漫界®M50。它搭载第二代存算一体技术，全栈自研实现软硬件协同优化，还配套系列产品，构建端边智能新生态。
腾讯混元A13B用130亿参数达到千亿级效果，Flash Attention作者点赞
腾讯混元A13B模型仅130亿激活参数，却能和千亿级大模型竞争，获Flash Attention作者赞叹。它精准卡位性能与效率‘甜蜜点’，依托高质量预训练和结构化后训练，多方面表现突出且已全面开源。
扩散语言模型真的会比自回归好？理论分析结果可能恰恰相反
北京大学和蚂蚁集团研究表明，扩散语言模型虽理论上有并行生成优势，但实践中在某些任务推理成本更高。研究通过实验对比，分析了扩散与自回归模型在不同评估指标下的效率，指出选择模型要视任务需求。
具身大满贯还全开源！原力灵机DM0.5登顶RoboDojo，且clone且珍惜
原力灵机的DM0.5登顶具身评测RoboDojo，在记忆维度表现突出，还在其他权威评测中成绩优异。它有强泛化能力，在多场景表现佳。其从数据、架构、效率全面升级，且全面开源，赋能具身生态。
突破一亿Token极限：EverMind提出MSA架构，实现大模型高效端到端长时记忆
机器之心发布文章介绍，大模型长期记忆能力受限于上下文长度。《MSA: Memory Sparse Attention for Efficient End-to-End Memory Model Scaling to 100M Tokens》提出MSA架构，突破扩展性、精度和效率的不可能三角，实现100M长度的大模型长时记忆框架。
R1/Qwen训练新范式：无需继续训练，直接“算”出权重，提效500%
DeepSeek - R1爆火让RLVR成大模型后训练焦点，但训练代价高昂。学者发现RLVR中LLM权重和输出概率呈线性变化，提出“权重外推”等方法，实现最高6.1倍训练加速，RL - Extra在多榜单展现高效率。