「推理缓存优化」共找到 3061 篇相关文章
仅100种子题,合成数据质量超GPT-5,阿里、上交提出Socratic-Zero框架
阿里巴巴与上交大联合提出 Socratic-Zero 框架,仅从 100 个种子问题出发,通过三智能体协同进化生成高质量课程。该框架合成数据质量超 GPT - 5 等,Solver 性能提升显著,工程友好,开启零数据自进化新路径。
Claude Skills,4000字详解 Anthropic 的思考
Anthropic推出新技能Claude Skills,作者认为它会引导第三方工具形态。Skills结合笔记式形态、可执行工具与AI调度自优化,具备低门槛、灵活表达等优势,还实现了AI自我进化,是一种新范式。
英伟达用NIM + NV-Tesseract模型,提高芯片生产良率
芯片制造良率控制难题待解,传统方法各有局限。英伟达推出NV - Tesseract模型家族和NIM推理微服务,二者结合用于半导体晶圆厂生产,可实时发现问题、预测故障,降低成本,为制造打开新大门。
LangChain 不看好 OpenAI AgentKit:世界不需要再来一个 Workflow 构建器
OpenAI发布工具集AgentKit,含可视化画布Agent Builder。LangChain创始人Harrison Chase锐评,市场不需要这种可视化工作流构建器,因其不是真正的Agent构建器,且面临高低复杂度问题挤压。
更先进的AI,就应该发生在“今天” | 甲子光年
AI应用离消费者体验还有距离,行业分歧加剧。9月22日,联发科发布天玑9500芯片,把AI嵌入端侧设备,在高频场景优化体验,还在芯片设计、硬件创新上突破瓶颈,带动伙伴发展,推动AI普及。
缺数据也能拿SOTA?清华&上海AI Lab破解机器人RL两大瓶颈
现有机器人视觉 - 语言 - 动作(VLA)模型训练范式存在数据采集成本高、泛化能力不足等问题。清华和上海AI Lab团队提出SimpleVLA-RL,解决了VLA模型训练的核心瓶颈,在多基准测试中实现SoTA性能。
企业级消息系统构建指南
文章介绍企业级消息系统构建,阐述概念、价值、典型场景,对比主流开源系统如 Kafka、Pulsar 等。通过腾讯、华为等企业实践展示选型与优化,还提及运维保障,指出未来消息系统在 AI 领域机遇与挑战。
云厂商「进击」 Agent 开发平台
企业级智能体(Agent)市场崛起重构云服务竞争格局,云厂商需提供全栈能力。腾讯云宣布智能体开发平台3.0上线,优图实验室关键技术持续开源。文中还分析企业开发Agent难题及腾讯云应对举措。
ChatGPT负责人深度复盘,爆4o复活内幕!过快下线是失误,将迭代模型人格
8月14日,ChatGPT负责人Nick Turley深度复盘GPT-5发布「风波」,总结失误如过快下线GPT-4o、低估用户情感依恋等,还分享OpenAI产品设计哲学,强调持续迭代模型人格。
国科大 | 提出进化算法:EvolKV,自适应分配KV Cache,预算降至1.5%!
键值缓存(KV cache)是大模型快速运行核心技术,但输入文本越长,存储和处理问题越突出。国科大提出进化算法EvolKV,自适应分配KV Cache,实验显示其效果显著,预算可降至1.5%。