搜索：推理缓存优化

「推理缓存优化」共找到 3050 篇相关文章

Claude Opus 4.7，全网差评！刚升级就翻车，用户怒斥：还我4.6

Claude Opus 4.7刚发布就遭全网吐槽，价格贵50%，性能却严重倒退，出现幻觉、计算拉胯等问题。用户质疑Anthropic为省钱缩水模型，罪魁祸首可能是新引入的“自适应推理”功能。

一个叫「caveman」的Claude Code插件在Hacker News爆火，冲破2w星。它核心是条prompt，删掉冠词等废话，号称省75%输出token。但它不压缩模型后台推理token，真实成本节省存疑。

马斯克称未来劳动力成本趋近零，人人高收入、工作成爱好。但AI是存量优化，不创造新岗位。其观点有致命漏洞，如生产红利分配不公、高收入资金来源不明、忽略工作社会意义等。

Google Research团队研究发现，重复提示词可让Gemini准确率从21.33%升至97.33%。该策略能提升主流大模型非推理任务表现，在多模型多基准测试中优势明显，且不增加延迟。

马斯克称AI和机器人3年内能解决美38万亿国债危机，他旗下几家公司正技术对接，构建以AI为核心的文明操作系统。同时，华尔街抛弃英伟达，谷歌TPU因性价比优势切入推理市场。

11月14日阿里开启「千问 APP」公测，其集成通义千问 Qwen 系列顶尖模型，有多模态能力。它对标 ChatGPT，在中文语境和结构化输出上有优势，实测处理财报、麻将推理等表现佳。

NuerIPS唯一满分论文结论惊人，指出真正决定推理上限的是基座模型本身而非强化学习，且蒸馏比强化学习更有望实现大模型自我进化，这给正火热的RLVR泼了冷水。

MiroMind ODR是代季峰加盟陈天桥后的技术首秀，GAIA测试82.4分超OpenAI。它全开源可复现，包括MiroFlow、MiroThinker等四个子项目。团队还曾推出MiroMind - M1，专注提升数学推理能力。

作者分享给传统研发平台接入 Agent 开发能力的经验，介绍技术选型、方案落地、系统提示词优化、知识库建设等内容，还提及工具接入、上下文管理等方面，为想自建 Agent 的人提供启发。

近日 SuperCLUE 发布 11 月 DeepSearch 评测报告，国产大模型 openPangu - R - 72B 名列第一。它采用 MoE 架构平衡效率与性能，经预训练技术优化和 DeepSearch 专项突破，彰显国产算力与大模型研发融合成效。