「推理部署」共找到 2637 篇相关文章
EMNLP2025 | 解耦视觉与推理，港大探索视觉语言模型"眼智分离"新范式
当前大视觉语言模型处理复杂推理任务时，常过分依赖语言知识，忽视图像关键信息。港大等团队提出ProReason框架，其蒸馏的ProReason - VL和ProReason - Q3模型性能提升显著，为LVLMs发展提供方向。
1w颗星！多平台 LL M 聊天机器人及开发框架AstrBot！
AstrBot是聊天机器人及开发框架，松耦合、异步，支持多消息平台部署。它功能丰富，支持多种大语言模型，有Agent能力、插件扩展等，还介绍了多种部署方式、平台及提供商支持情况。
110万美元悬赏！AMD发起全球战书：谁能打破DeepSeek与Kimi的推理速度极限？
AMD与GPU MODE联合发起2026线上黑客松，向全球发榜。挑战赛设110万美元奖池，分预选赛和决赛，要对核心GPU算子打磨、挑战明星模型，代码须可合并，给出了赛程安排及参赛方式。
多模态幻觉的病因「高熵节点」找到了！全基准幻觉率下降
多模态大推理模型的幻觉常出现在生成转折词时，此时模型处于高熵关键节点，易脱离图像证据。研究者提出LEAD，高熵时保留候选推理方向，注入视觉锚点拉回证据，实验显示它能跨领域提升模型性能。
无需人工标注！AI自生成训练数据，靠「演绎-归纳-溯因」解锁推理能力
新加坡国立大学等机构研究者提出元能力对齐训练框架，模仿人类推理心理学原理，将演绎、归纳与溯因能力融入模型训练。实验显示，该方法提升模型在多任务上的性能，且有跨领域可扩展性。
让大模型“跑”在手机里：vivo蓝心端侧部署创新揭秘，性能功耗双优！
在AICon2025上海站，vivo AI研究院工程师章苏迟分享蓝心大模型端侧部署方案。介绍端侧大模型优势及应用场景，阐述内存、性能、功耗等指标优化方法，还提及多业务场景应对策略与安全合规措施。
14B检索能力超过Google Search，阿里ZeroSearch通过RL激发LLM检索推理能力~
有效信息搜索对提升LLMs推理和生成能力重要，当前RL方法有文档质量不可控和API成本高问题。阿里通义Lab提出ZEROSEARCH框架，经多步骤训练，实验显示其在检索能力和泛化性上表现出色。
梁文锋署名！DeepSeek再发炸裂论文：提出“条件记忆”新范式，彻底打破GPU推理显存墙
来自DeepSeek的新论文提出“条件记忆（Conditional Memory）”新范式，推出Engram模块，实现可扩展知识查找。研究揭示U形缩放定律，构建的Engram模型性能超越纯MoE基线，还打破了GPU显存瓶颈。
免费开源、可本地部署的AI私人助理Clawdbot，保姆级搭建教程来了
本文提供免费开源、可本地部署的AI私人助理Clawdbot的搭建教程。它能在多平台运行、连接工具和技能。教程涵盖创建虚拟机、安装Node.js和Clawdbot、设置连接等步骤，还介绍技能扩展和VPS运行方案。
非Transformer架构的新突破，液态神经网络的推理小模型只用900M内存
谷歌提出的Transformer架构基本垄断大模型，而初创公司Liquid AI研发的液态神经网络架构另辟蹊径。其发布并开源的LFM2.5 - 1.2B - Thinking模型，仅需900MB内存就能在端侧运行，性能优于Transformer架构模型，还降低了死循环生成比例。