「高效推理框架」共找到 3696 篇相关文章
首个GUI多模态大模型智能体可信评测框架+基准：MLA-Trust
MLA-Trust 是首个针对 GUI 环境下多模态大模型智能体的可信度评测框架，构建了涵盖四核心维度的评估体系，对 13 个模型深度评估，揭示可信度风险，还提供评估工具箱，推动其可靠部署。
告别随机性：Thinking Machines Lab如何实现了LLM推理的完全确定性？
文章指出LLM推理非确定性根源并非GPU并发和浮点非结合性，而是批大小变化致核函数非不变性。作者提出实现批不变操作的策略，实验验证有效，还阐述其对训练、系统可靠性等方面的意义。
抢天才还是拼算力？前 Llama 推理负责人详解 AI 的真实天花板
前 Llama 推理负责人 Ross Taylor 在播客访谈中指出，AI 竞赛中的混乱和挖角是噪声，最终会被指数级算力淹没。他阐释了算力指数曲线决定竞赛天花板，强调系统性实验、高质量评估的重要性。
Embedding黑箱成为历史！这个新框架让模型“先解释，再学Embedding”
来自多高校研究人员推出可解释的生成式Embedding框架GRACE，解决传统文本表征模型黑箱式表征瓶颈。它重新定义对比学习信号，含三个关键模块，训练双模式统一，实验跨任务提升且不损生成能力。
数字生活的原生入口：蚂蚁集团发布AI眼镜全新技术框架gPass
日前，蚂蚁集团在2025 Inclusion・外滩大会发布全球首个智能眼镜可信连接技术框架gPass，具备“安全、交互、连接”能力，可解决AI眼镜生态痛点，已应用于部分品牌，未来将释放更多潜能。
小模型推理极限在哪里？微博开源3B小模型，比肩顶级闭源
微博新开源的VibeThinker - 3B小模型，将特定能力维度性能推向极限。它在数学竞赛、编程等可验证推理基准上表现优异，成绩直逼顶尖大模型。其训练流程层层叠加，还提出参数压缩 - 覆盖假说。
让RAG真正读懂“言外之意”！新框架引入词汇多样性，刷新多项基准SOTA
ACL 2025研究提出Lexical Diversity - aware RAG (DRAG) 框架，将词汇多样性引入RAG检索与生成，解决现有方法痛点。它有两大创新模块，实验在多基准提升准确率，还将在多模型上增益，代码即将开源。
刚刚，Anthropic 又出新货：Claude Opus 4.1 发布，代码、推理能力再升级
Anthropic发布Claude Opus 4.1，是对Opus 4的小升级，提升智能体任务、代码处理和推理能力。付费Claude用户等已可用，价格不变。在编程评测表现佳，获多方好评，官方建议升级。
小模型也能精确计算：WorldModel-Qwen的推理时代码执行实验
开发者bigattichouse让Qwen - 0.6B小模型推理时生成并执行WASM代码获计算结果。最初尝试加标签生成Python代码效率低，后用WASM，创建三层架构。虽结果未完美，但接近，还通过Gemini审查验证。
清华&巨人网络首创MoE多方言TTS框架，数据代码方法全开源
清华与巨人网络联合首创 DiaMoE-TTS 多方言 TTS 框架，数据、代码、方法全开源。它基于 IPA 体系，有 MoE 架构和低资源适配策略，在多语种验证，为方言语音合成提供低成本、可扩展方案。