「推理系统优化」共找到 4342 篇相关文章
AgentScope 正式发布 Skills 支持 - 实现渐进式披露
文章指出大语言模型驱动的Agent系统存在核心矛盾，常见上下文加载方案有局限，缺乏灵活机制。介绍了AgentScope发布的Skill机制及渐进式披露策略，还讲了其在Java中的实现，最后分析了适用与不适用场景。
AI浪潮之下：存储来到聚光灯下
AI浪潮下，行业对存储设备重视上升。其根因是AI业务刺激，数据量增长且推理业务有新需求。信通院报告显示我国存力结构优化，国内厂商迎来机会，平头哥镇岳510主控芯片表现出色，生态建设也在推进。
提示工程实战指南：从Zero-Shot到Graph Prompting，7大核心技术全解析
随着大型语言模型发展，提示工程成关键技能。文章介绍零样本提示、少样本提示等七种提示优化模式，分析适用场景、优缺点，还给出示例，最后总结各技术适用场景及最佳实践。
大佬深度解析：Coding Agent的底层运行逻辑是什么？
本文由AI领域知名学者Sebastian Raschka撰写，探讨编码智能体及其编排的设计、工作原理和组件协同。指出智能体周边支撑系统重要性不亚于模型本身，详细阐述编码智能体六大核心构建模块。
从 ReasoningBank 到 MetaAgent，RL 未必是 Agent 自进化的必要解？
业内对智能体自进化的探讨开启多路线探索模式。除 RL 优化，记忆系统改进成新方向，如 ReasoningBank 机制。此外，业内还从智能体自我识别、工具和策略辅助等机制探索其他技术路线。
GPT-5通过“哥德尔测试”！独创性解决博士生都得花几天时间的开放数学问题
最新论文中，研究人员让GPT - 5挑战5个未解决的优化猜想，它解出3个，还对一题给出不同有效证明方案。测试题需博士水平研究者花几天完成，研究还“挑衅”了陶哲轩对大模型数学能力的印象。
The Batch: 866｜GPT-5 起飞遇乱流
OpenAI推出GPT - 5及其系列模型，涵盖多种类型，有新功能与性能提升。但发布中路由器故障等问题让用户失望。它在部分基准测试表现佳，不过抽象推理能力有不足，还回顾了发布历程。
万卡时代，企业需要怎样的算力集群？
过去两年，AI算力需求跃升，消耗从训练主导转向推理驱动。企业算力需求有突发性等特点，智算集群是关键方案。InfoQ联合腾讯云发起直播探讨，还介绍了算力供给缺口、集群构建交付、性能优化及演进方向。
Meta打开AI元认知，让AI不止会解题，还会总结套路了
Meta等机构提出‘元认知重用’机制，让大模型学会反思总结。大模型打造‘行为手册’，与主流RAG系统有本质区别。研究人员设计三种实战用法，虽有局限，但为大模型推理难题提供了解决方案。
梳理SGLang中DP Attention及其Padding问题
作者梳理SGLang中DP Attention及其Padding问题。介绍DP Attention背景、流程，指出padding分max和sum模式，旧版sum padding浪费计算、影响cuda graph使用，v0.4.10后有优化，max padding仍待完善。