「大语言模型推理」共找到 8333 篇相关文章
成本暴降88%！通义实验室、北大发布ZeroSearch，无需搜索即可激活LLM检索能力
信息检索能力对提升大语言模型推理表现至关重要，但现有方法在训练中面临文档质量不可控和搜索 API 成本高昂两大挑战。为此，通义实验室和北大提出 ZeroSearch 框架，无需真实搜索即可激活 LLM 检索能力，显著降低成本。
从分钟级等待到20倍超速：LightX2V重写AI视频生成速度上限
今年，开源项目LightX2V在ComfyUI社区走红，单月下载超170万次。它是面向低成本、强实时视频生成的推理技术栈，能在消费级显卡上高效生成视频，还支持多种模型和硬件，覆盖不同用户需求。
开箱即用、本地安全、多 Agent 协同解决方案！
过去一年，Agent热度高，但企业应用面临算力、安全和部署门槛。5月22日浪潮信息推出元脑智能体工作站Z3，整合大模型本地推理等功能，解决本地多Agent运行问题，降低使用门槛，保障安全。
Eino ADK：一文搞定 AI Agent 核心设计模式，从 0 到 1 搭建智能体系统
大语言模型发展下，Agent成AI落地主流，但传统开发有痛点。Eino ADK为Go开发者提供智能体开发框架，解决核心难题，还介绍了Agent功能、ADK模式、构建方法及多Agent协作场景等。
把 RAG 做成主流的公司，现在开始“做空”RAG 了
Pinecone 曾将 RAG 定义成大语言模型 grounding 标准范式，如今却宣布 RAG 时代结束。它推出面向 Agent 的知识引擎 Nexus，提出“知识编译”概念，称能提高任务完成率、降低 token 开销，整个 AI 世界都在将“推理”往上游移动。
DeepSeek识图模式全量上线，却认不出自家老板梁文锋
端午节前，DeepSeek全量推送识图模式。测试发现，它能认出黄仁勋，但忽略‘豆汁’字样，识别人物和潦草汉字准确率低，不过识别文物能力不错。还比较了与其他模型在乐理推理测试中的表现，开发者有新疑问待解答。
马斯克官宣1万亿瓦芯片计划，红杉合伙人力挺：xAI会赢！
马斯克宣布自建晶圆厂“Terafab”，目标每年1太瓦算力，还要把数据中心送上天，引发争议。红杉合伙人Shaun Maguire力挺xAI，认为其会赢，还指出马斯克有识别技术拐点的能力，虽错过语言模型转向，但已修正。
ClockBench：一个简单的钟表测试让AI全线溃败
ClockBench测试让11个多模态大模型与5个普通人认钟表时间，人类平均准确率89.1%，最好的AI仅13.3%。AI在复杂钟面表现差，却能处理抽象指令。该测试暴露视觉AI空间推理缺陷，对评估有启发。
AgentScope 正式发布 Skills 支持 - 实现渐进式披露
文章指出大语言模型驱动的Agent系统存在核心矛盾，常见上下文加载方案有局限，缺乏灵活机制。介绍了AgentScope发布的Skill机制及渐进式披露策略，还讲了其在Java中的实现，最后分析了适用与不适用场景。
智能体的记忆管理机制及其潜在风险 | 直播预约
大语言模型（LLM）智能体兴起，记忆机制是核心。本次报告将探讨记忆管理对其性能的影响及潜在风险，展示缓解关键挑战的策略，介绍新攻击范式，揭示安全漏洞，强调需重新审视与建模。