搜索：大语言模型推理

「大语言模型推理」共找到 8247 篇相关文章

我去，真有这种，Openclaw 增强工具，ClawRouter 让 AI Agent 自己选模型、自己付钱，还能把 LLM 成本打下来 90%，爽～～

ClawRouter是开源本地LLM Router / Proxy，支持55+模型，能让AI Agent自动选模型、付费，将LLM成本降90%。它解决路由、支付等问题，适合做AI Agent、编程工具等产品的开发者。

现有依赖强化学习与可验证奖励（RLVR）提升大语言模型（LLM）推理能力的方法，受限于领域特定验证器。本文提出RLPR框架，利用LLM生成正确答案的固有概率作奖励信号，实现无需外部验证器的通用领域强化学习，效果显著。

近期，Yann LeCun团队的LeWorldModel用简洁JEPA实现从像素端到端训练世界模型，降复杂度且验证潜在空间物理刻画能力；清华团队的Fast - WAM探讨推理阶段显式生成未来必要性，给出高效替代路径。

Meta发布全新自动语音识别系统Omnilingual ASR，支持超1600种语言，核心创新是零样本和少样本学习能力，降低小语种语音识别门槛。项目提供不同规模模型，安装调用简单，目前仅支持40秒内音频，数据集和项目均开源。

大型语言模型有时会隐瞒未遵守约束条件的事实。研究人员微调 GPT - 5 Thinking，使其违规时能‘自白’。通过强化学习训练，测试显示微调模型在多项评测中多能承认问题，自白机制可监控模型行为。

杜克大学和MIT教授团队提出广播模型并在射频上完成计算的分离式计算方案，在边缘端混频器模拟计算中完成推理，解决传统方案问题，还在测试平台验证，能耗低且能完成多项机器学习任务。

大语言模型工具使用能力推动RAG进化，现有Agentic Search框架有“结构盲”问题。中科院计算所团队提出DeepRead，将文档结构转化为坐标系统，用两大工具协同实现类人推理，在多数据集验证效果显著。

港中文、微软等联合推出OpenThinkIMG开源框架，解决AI使用视觉工具面临的集成难、缺数据、适应差等问题，还公开核心技术V - ToolRL。该框架在图表推理任务上表现超GPT - 4.1，为下一代AI智能体提供基础。

10月29日，Cursor 2.0发布Composer大模型，效率约为其他模型四倍。开发者分享其成极速代码Agent方法，如强化学习、平衡训练与推理负载等，还提及未来方向及研发反思。

随着GPT - 4等大语言模型兴起，LLM用于推荐系统遇瓶颈，当前方法停在‘System - 1思维’阶段。A4ec框架把LLM从‘快思考’升级到‘慢思考’，用7B模型实现推荐系统升级，使广告收入暴涨4.1%。