「端侧计算」共找到 795 篇相关文章
AgentCPM-Explore开源，4B 参数突破端侧智能体模型性能壁垒
清华大学等联合研发的 AgentCPM-Explore 智能体模型，基于 4B 参数在深度探索类任务表现出色，有打破参数壁垒等亮点，还全流程开源，解决小模型性能提升挑战，邀伙伴共建端侧智能体生态。
强化学习之父：LLM主导只是暂时，扩展计算才是正解
新晋图灵奖得主、强化学习之父Richard Sutton在新加坡国立大学演讲时预测，大模型主导是暂时的，未来五年甚至十年内不是技术前沿。他认为AI应从依赖人类数据转向体验学习，强化学习潜力需靠扩展计算支撑。
别再迷信大模型！吴恩达亲授AI秘籍：小模型+边缘计算=财富密码
吴恩达指出，AI创业真机遇不在大模型，而在智能体。智能体市场潜力大，创业者可发挥其专业化优势。还建议忽略AGI，用AI解决日常问题，关注小模型边缘计算、军民两用场景，构建可信AI应用。
重塑注意力机制：GTA登场，KV缓存缩减70%、计算量削减62.5%
GTA由多所高校联合研发，提出大模型框架，解决传统多头注意力机制弊端。通过分组共享注意力矩阵和压缩潜在值表示，削减计算量、缩减KV缓存，实验验证其性能优、效率高，虽有局限但前景好。
这种“半光半物质”粒子，有望补上AI光计算最后一块拼图
宾大物理学家 Bo Zhen 团队造出激子－极化激元，用约 4 飞焦能量完成光信号全光开关切换。光子计算在非线性环节依赖电子器件，该成果有望补上缺失环节，但距商用还有关卡。
独家｜清华团队组团创业，押注机器人端侧自进化，已完成首轮融资
过去一个多月，机器人学习风向生变。清华李健雄团队围绕机器人学习等研究多年后成立本溯智能创业。他们认为当下主流技术路线有问题，押注In - Context Learning，让机器人端侧自进化，降低部署成本。
苹果推出 Ferret-UI Lite：一款用于查看和控制 UI 的端侧 AI 模型
苹果推出 30 亿参数的 Ferret-UI Lite 端侧 AI 模型，可解析屏幕图像、与应用交互。现有 GUI 智能体方法存在建模复杂等问题，Ferret-UI Lite 性能有竞争力，训练采用两阶段流程，还给出应用建议。
谷歌提出破局Self-Consistency计算瓶颈！LLM推理效率革命，推理加速不牺牲精度
Google Research等团队提出CISC，通过给推理路径赋予置信度权重，少量样本即可超越传统自洽性效果，平均减少40%计算成本，还提出WQD指标揭示模型自评估能力本质。
首个实时端侧部署世界模型，20万小时人类视频，BeingBeyond实现「两级跃迁」
4月14日，BeingBeyond发布具身世界模型Being - H0.7，将人类视频规模扩至20万小时，采用隐式推理范式，6项权威评测综合第一。还率先实现端侧实时部署，打通数据闭环，推动模型通用与专家能力跃迁。
Qwen突破：用「并行计算」代替「堆参数」，新方法内存降22倍、延迟降6倍
LLM进化依赖「堆参数」，存在训练成本高、推理慢等问题。论文提出ParScale，用「并行计算」代替「堆参数」，让模型「分头思考」，推理效率提升22倍，旧模型也能改造，落地价值大。