「端侧优化」共找到 1368 篇相关文章
一篇最新自演化AI Agents全新范式系统性综述
传统LLM Agent工作流固化，面对动态环境只能人工硬编码，成本高、迭代慢。此55页综述提出“Self - Evolving AI Agents”新范式，让Agent自主优化自身结构，还给出三定律、统一框架及各类优化方法。
对话蚂蚁吴伟：训推一体池化调度，如何把GPU用到极限
AICon大会前，与蚂蚁集团吴伟深度对话，探讨GPU资源调度解法。他指出CPU和GPU有结构性差异，只在推理或训练内优化有资源闲置，国产卡缺全链路生态，软件优化有天花板。还分享架构思路、算法及落地效果等。
苹果的局面，很迷惑
作者对比 Google I/O 大会上谷歌的表现，认为苹果在 WWDC 上的表现令人失望。苹果更新设计语言，其 AI 侧重端侧模型，有数据安全等优势，虽目前参数量小，但端侧 AI 或成新战场。
斯坦福华人天团意外爆冷！AI用纯CUDA-C编内核，竟干翻PyTorch？
斯坦福华人团队用纯CUDA - C编写的快速AI生成内核超越PyTorch，成果登上Hacker News热榜。研究者采用KernelBench任务设置，引入新优化方法，实验显示多数最优内核在靠后轮次出现，优化策略集中在几类常见模式。
AI搜索优化（GEO）：从“被看见”到“被选中”的7个真相！【必看】
白杨SEO分享AI搜索优化（GEO）从“被看见”到“被选中”的7个真相，含为何做GEO、竞争内容、让AI理解和信任品牌的方法、成默认推荐答案的条件、效果评估及长期坚持的原因等。
高精度全身操控！从文本输入生成全身操控物体的动作
物体操控的整体动作生成是具广泛应用但极具挑战的任务，核心挑战在于手部与身体协调及关节式物体操控精度。香港大学提出协同扩散噪声优化框架CoDA，优化三个专用扩散模型，还采用BPS统一表示提高交互精度。
【博客翻译】使用PyTorch加速生成式AI第四部分：Seamless M4T，快速优化
这是使用纯原生PyTorch加速生成式AI模型系列博客的第四部分，专注加速FAIR的Seamless M4T - v2模型。通过torch.compile + CUDA Graph，在不损失精度下实现text decoder模块2倍、vocoder模块30倍加速，端到端推理2.7倍加速。
AI能帮忙厨房看火了！面壁智能开源全模态模型MiniCPM-o4.5，边看边听还能主动抢答
面壁智能开源全模态模型MiniCPM-o4.5，能边看边听还主动抢答。它引入全双工多模态实时流机制，在多方向达全模态模型领先水平。该模型是端侧原生，将与开发板配套，助力端侧智能硬件开发。
智能体请求暴增9.4倍，token账单却没涨：Uber 公开AI软件工厂省钱方法
Uber 在 2026 年 AI 工程师大会分享软件工厂愿景。其 AI 工具嵌入开发各阶段，2 至 8 月智能体请求增 9.4 倍，成本稳定。介绍智能体会话四层、成本公式及优化手段，如选优模型、优化 token 等。
无需训练，直接「算出」最强AI！理想汽车发现端侧Scaling Law
理想汽车基座模型MindVLA团队与国创决策智能技术研究所联合发布论文，提出面向端侧大语言模型的「硬件协同设计扩展定律」，解决大模型部署在端侧设备的难题，实现软硬协同设计，提升模型性能和研发效率。