搜索：端侧推理模型

「端侧推理模型」共找到 8395 篇相关文章

超越GPT-5.2和Gemini-3-Pro！商汤多模态搜索、推理模型开源

商汤开源多模态自主推理模型SenseNova - MARS（8B/32B双版本），它通过强化学习整合工具，在多模态搜索与推理测试中超越Gemini - 3 - Pro与GPT - 5.2，还采用创新算法稳定训练，构建新基准评测。

近期基于扩散模型的视觉 - 语言模型 LaViDa 出现，它继承扩散语言模型优点。与自回归模型不同，扩散模型能并行、处理双向上下文。LaViDa 在多任务测试有竞争力，推理蒸馏和文本填空表现好，还能权衡速度与质量。

在 QCon 全球软件开发大会上，百度李志伟分享端侧大模型安全建设实践。介绍其发展趋势、优势与应用场景，指出面临隐私、内容等安全挑战，阐述云端与端侧安全方案，通过案例展示优化效果，展望未来安全建设方向。

新加坡国立大学等机构团队提出 SPIRAL，让模型在零和游戏自对弈强化推理，摆脱人工监督。研究发现游戏可培养推理能力并迁移到数学，还开发系统保障训练，虽有局限但为 AI 发展指明方向。

北大团队提出iFairy方案，将模型权重量化到复数集合，用2比特表示，压缩至原本1/8。推理仅需加减或交换数据位置，成本更低。Transformer架构“复数化”，iFairy模型PPL降10%，性能反超全精度，相关成果已开源。

Haven团队提出LatentChem，把化学推理从‘文本表面’挪到‘模型内部’，先在隐空间思考，再在语言空间回答。它拆分‘推理’与‘表达’，性能优异，为AI Scientist奠定基础。

北大出身的创业团队元空智能，提出大模型静态互联网数据红利见顶，端侧是下一轮能力跃迁核心，重新定义端侧AI为「模型×Agent×设备」，发布Boxer端侧模型与两款Agent产品，其端侧AI已拿下惠普商务电脑预装，实现规模化落地。

美团宣布开源高效推理模型 LongCat-Flash-Thinking，性能逼近 GPT5-Thinking，是国内首个结合多种推理能力的大语言模型。它采用新方法提升性能，已在多平台开源，API 平台免费开放，还兼容主流 API 格式。

前通义千问Qwen负责人林俊旸离职后发长文，指出AI正从「推理思考」转向「智能体思考」，分析推理模型发展，谈混合思考模式失败，还提及智能体思考挑战及相关企业、学术界进展。

面向自动驾驶的多模态大模型存在问题，FSDrive提出“时空视觉CoT”，让模型“以图思考”，联合未来场景与感知结果进行可视化推理。该方法在不改动原有MLLM架构前提下激活图像生成能力，实验表现出色。