「AI边缘推理」共找到 11159 篇相关文章
刚刚！北大校友Lilian Weng最新博客来了：Why We Think
北大校友Lilian Weng更新博客《Why We Think》，回顾利用测试时计算的研究进展，探讨让模型“思考更久”的方法。文中介绍了思维链、潜变量建模等策略，还提及多种提升生成质量的策略，如并行采样与序列修订，以及强化学习提升推理能力等内容。
iPhone断网跑35B多模态！国产开源新模型，只占3G内存
本文介绍面壁智能和OpenBMB最新开源的端侧多模态大模型MiniCPM-V 4.7，其35B-A3B版本总参数35B，推理仅激活3B，仅需3G内存即可在iPhone等手机断网流畅运行，性能领先同类模型，详解了其优化技术与行业价值
突发！Fable 5.1遭黑客破解，27万字提示词泄露
Fable 5.1和Mythos 5.1发布，Fable 5.1推理成本低32%。但发布几小时后被破解，27万字提示词泄露，曝光了其安全限制、隐私保护等秘密。它工具增加，还破解密码、能完成多种任务，不过也有用户抱怨耗token等问题。
国内第一视角数据最早押注者，北大卢宗青：隐空间才是具身的路
北大卢宗青是国内第一视角数据最早押注者和隐空间路线推进者。他认为人类视频是具身智能唯一可规模化的数据路径，创立BeingBeyond走隐空间世界动作模型路线，成本低、推理快，还发布全球首个隐式触觉世界动作模型Being - H0.8。
都在卷「让大模型多循环几遍」，这个7B模型LoopCoder v2说：多循环 1 次就够了
当下推理模型流行在测试时多循环，以打磨答案。但新研究发现，7B模型LoopCoder v2只多循环1次（共2次），就能大幅提升性能，继续增加循环次数，性能反而下降。研究还分析了收益与成本，给出选择循环次数的诊断方法。
欲取代transformer的SSA(次平方稀疏注意力)解读
文章解读了欲取代Transformer的SSA（次平方稀疏注意力）算法。它支持12M tokens上下文，比fastAttention快52倍，训练和推理更快。SSA改变了注意力扩展特性，有计算和内存线性扩展等特性，经三阶段训练可可靠利用长上下文。
对话原力灵机范浩强：评判机器人好坏，只有一个指标
本文是对原力灵机创始人范浩强的访谈。他认为AI是一生的事业，原力灵机成立于25年3月，强调模型是主轴。还指出评判机器人好坏的关键指标是回本时间，要从真实场景找突破，也介绍了具身智能应用等内容。
昨天夸国产大模型争气，今天Vidu Q3就霸榜了
国产视频大模型Vidu Q3在国际权威AI基准测试机构Artificial Analysis的最新榜单里，于Video Arena冲到全球第二、国产第一。它是全球首个支持16秒音视频直出模型，声画同出、高清直出，还有镜头控制、多语言文字渲染等优势。
Meta 悄悄开源了两个惊艳的 3D 重建模型，物体重建+人体重建！
前两天AI圈被Gemini 3 Pro刷屏，Meta却悄悄开源了两个“硬核”项目：SAM 3D Objects可从一张照片重建任意物体，SAM 3D Body能从一张照片重建人体网格模型，二者结合可构建完整3D场景，且全部开源、可商用。
Container Use：一种用于独立的并行编码代理的新工具
Dagger团队发布开源工具Container Use，为AI编码代理提供容器化沙箱和Git工作树，实现无冲突并行工作流。它能创建隔离开发环境，让开发者在同一代码库安全运行多代理。不过该工具尚处早期，有不足。此外还介绍了其他类似工具。