搜索：大模型推理系统

「大模型推理系统」共找到 9174 篇相关文章

Meta开源Muse Glimmer，30B Agent小钢炮跑进你的电脑

Meta发布并以宽松协议开源Agent模型Muse Glimmer。它30B参数，能跑在Mac或PC上，多项Agent基准领先。可完成端到端任务、调用工具及多步推理，接受文本与图像交错输入，用途广泛。

Anthropic在官方文档上线Claude 4.x提示工程指南，针对4.5系列模型优化。介绍基本原则、长期推理和状态跟踪方法、沟通风格，还给出特定场景指导及迁移考虑，助你发挥Claude 4.x实力。

大型语言模型在数学竞赛级任务依赖机械化推理，现有评测集有缺陷。UC Berkeley团队提出OMEGA基准量化其数学泛化能力，实验揭示复杂度引发性能崩塌等问题，指出LLM创新组合难，给出改进方向。

企业数据库运维复杂度高，专业人才稀缺成瓶颈。阿里云PolarDB推出AI助手，基于大语言模型与专家知识库，有智能问答等核心能力，以自然语言交互降低使用门槛，提升运维效率与系统稳定性。

一个叫「caveman」的Claude Code插件在Hacker News爆火，冲破2w星。它核心是条prompt，删掉冠词等废话，号称省75%输出token。但它不压缩模型后台推理token，真实成本节省存疑。

2026奇点智能技术大会4月17 - 18日将在上海召开。大会深入探讨12大前沿专题，邀请众多顶尖学者、技术专家等，涵盖大模型技术、Agent系统、OpenClaw实践等内容，为AI落地绘制认知地图。

腾讯提出无训练组相对策略优化Training-Free GRPO，无需调整参数，在提示词中学习经验就能提升模型性能。实验显示，该方法在数学推理和网页搜索任务上效果显著，成本远低于传统方法。

RAG系统存在知识冲突问题，现有解决方法治标不治本。TruthfulRAG将非结构化文本转化为结构化事实，通过图构建、图检索、冲突解决三大模块解决冲突，实验显示其表现优异，结构化表示还提升了LLM置信度。

GitHub上爆火的开源项目PandaWiki，两周揽2K star，是AI大模型驱动的知识库搭建系统。它将AI能力深度融入全流程，有强大富文本编辑等特色，还能灵活部署，适合中小团队和个人开发者。

谢赛宁团队联合杨立昆、李飞飞发布Cambrian - S研究，提出空间超感知概念，指出现有AI视频理解或被高估，推出VSI - SUPER基准测试，虽Cambrian - S模型有提升但仍有局限，预测性感知或成新范式。