搜索：推理性能优化

「推理性能优化」共找到 4182 篇相关文章

港科大&北京人形提出LOVON：足式机器人开放世界全域目标追踪新范式！

港科大广州联合北京人形创新中心推出LOVON框架，融合大语言模型、开放词汇视觉检测和语言 - 运动映射模型，解决足式机器人开放世界全域目标追踪难题，有抗干扰视觉处理等优势，性能超传统方法。

现有扩散模型缺乏多模态推理创作能力，在算力和数据不充裕时实现该功能是难题。ICML2025上，港科联合SnapResearch提出ThinkDiff，以较少资源让扩散模型有思考能力，开辟多模态理解生成新路径。

谷歌深夜官宣Gemini 2.5 Pro推出新版本（0605），在代码、推理等任务表现提升，超o3，Elo评分也提高。但发布两小时就被越狱，还被指部分指标较早期版本退步。

Luma AI推出Modify Video玩法，能将抽象小视频爆改为特效大片，可对角色、场景等任意换，还保留原视频动作运镜。能进行视频动捕、风格迁移、单个元素编辑，性能超越同行Runway。

文章介绍基于约束解码技术，结合CFG、Jinja模板和XGrammar框架，为大模型SQL生成配备“编辑器”。它能保证语法正确、遵循规则，还具灵活性。但面临约束干扰和性能瓶颈，未来可简化配置惠及更多用户。

6月27 - 28日AICon北京站上，一线大厂技术大牛将分享“AI赋能研发提效”经验，涉及AI编程范式革新、代码智能化落地、研发流程优化等多方面，呈现技术演进与落地路径。

最新研究揭示AI存在认知缺陷，读取时钟准确率仅38.7%，判断日历日期准确率26.3%。研究者构建测试集考察MLLM能力，虽部分模型有亮点，但整体表现不佳，凸显训练数据和推理方式改进需求。

一个叫「caveman」的Claude Code插件在Hacker News爆火，冲破2w星。它核心是条prompt，删掉冠词等废话，号称省75%输出token。但它不压缩模型后台推理token，真实成本节省存疑。

CISPA论文指出，第三方影子API可能用廉价替代品替换前沿大模型。研究追踪17个服务，发现已被187篇论文引用。测试显示，影子API在多领域性能差，安全不可控，供应商有三种欺骗手段。

LLM是AI的“第一大脑”，记忆平台是“第二大脑”。当前AI企业应用进入生产力时代，竞争聚焦“隐性知识”记忆化。质变科技发布MemoryLake，具备多方面能力，在性能上优势显著，已服务众多用户和企业。