「手机端推理」共找到 2618 篇相关文章
VEGA-3D：释放视频生成模型中的隐式3D知识，重塑3D场景理解与具身交互
华中科技大学与百度联合提出VEGA - 3D，释放视频生成模型隐式3D知识。它将视频生成模型作‘潜在世界模拟器’，用自适应门控融合机制，提升场景理解等任务表现，无需额外3D标注数据。
AI 剪辑杀器 CutClaw 开源了！再也不用手动卡点了！
CutClaw是面向长视频与音乐的端到端自动剪辑系统，可自动解析素材，按文字指令生成踩点短片，部署简单，有短期和长期目标，也给出运行慢的原因与优化建议。
王小川：30亿现金在手，明年IPO，toC产品马上就发
百川智能CEO王小川明确发展主线，百川开源新一代医疗大模型Baichuan-M3，在医疗评测中表现优异。公司约30亿资金，预计2027年IPO，今年将发两款to C医疗产品，重点在院外诊疗。
DeepAgent：能够自主找工具的深度思考智能体，工具&任务随心配
现有智能体框架自主性差、工具使用受限。中国人民大学等机构研究者提出DeepAgent，能自主思考、发现工具并执行动作。它在多基准测试中表现出色，为构建更强真实世界智能体迈进重要一步。
MetaAI解锁Transformer潜意识，仅额外3%计算开销，性能提升最高55%
Meta FAIR研究员François Fleuret提出《The Free Transformer》，对解码器Transformer扩展。它通过引入随机变量，让模型先计划后执行，用约3%计算开销，在编程等任务上性能提升最高达55%。
RAG新王：AccurateRAG屠榜SOTA
大模型记不住私有或实时信息，RAG 落地遇难题。AccurateRAG 是 Qualcomm 团队端到端工程方案，有 4 个模块化组件，在 6 个数据集上刷新 SOTA，解决 RAG 文档解析、检索和生成难题。
软件正在吞噬劳动力：直接取代人类，捕获前所未有的经济价值
a16z 普通合伙人 Alex Rampell 演讲指出，软件正从辅助人类转向直接取代劳动。过去软件是将文件柜数字化，如今正从记录工具变为任务执行者，这将催生新商业模式，捕获巨大经济价值。
让RAG告别断章取义，HiChunk做到了~
现有RAG评测忽视文档切分，腾讯优图提出HiCBench评测基准和HiChunk框架。HiCBench含人工标注多级切分点与证据稠密QA，HiChunk用微调LLM建多级语义树，配Auto - Merge算法，实验效果佳。
大模型赋能的具身智能：自主决策和具身学习技术最新综述
具身智能是通往通用人工智能的关键路径，但传统方法有泛化瓶颈。电子科大最新综述梳理大模型赋能具身智能的自主决策与具身学习，还将‘World Model’纳入统一框架，为研究者提供路线图。
SGLang 2025-8月性能优化技巧记录
本笔记记录2025年8月SGLang框架性能优化实践，涉及GPT - OSS、DeepSeek - V3等模型，采用allreduce_add_rmsnorm、量化、通信、内核融合等优化技术，在性能提升、减少延迟等方面效果显著。