「推理缓存优化」共找到 3050 篇相关文章
所有环节都上最强模型，这可能是做 AI 智能体最贵的错误
开源项目 AgentOpt 指出，很多团队做 AI 智能体默认把最强模型塞进各环节，既贵效果也未必好。真正决定智能体效果和成本的是将合适模型放合适位置，智能体需要能找最优解的模型优化器。
谷歌AI的“心脏”长什么样？读懂TPU就够了
文章介绍了谷歌TPU的发展历程，从2015年为解决AI计算效率瓶颈自研，发展到如今成为谷歌“经济支柱”。还对比了谷歌、英伟达、亚马逊的芯片路线，强调谷歌全栈垂直整合策略使TPU在推理时代优势明显。
重新思考RLVR中的熵正则：从探索不足到探索过度的破局之路
2024年以来，RLVR使大模型在推理任务有显著突破，但实践中探索机制易失衡。传统熵正则化在LRM场景易走向极端，研究团队提出SIREN方法精准调控探索，实验显示其在多模型和数据集上性能提升显著。
刚刚，Figure 03人形机器人登场，能感知一枚回形针重量
Figure 03是初创公司Figure发布的第三代人形机器人，能做家务、胜任服务类工作，指尖可感知3克力。它配备新传感器和手部系统，为家庭设计，实现无线自主运行，也为量产和商业应用做了诸多优化。
Qwen3.8-Max首发上线阿里千问AI平台，API服务与Token Plan同步开放
今日，阿里巴巴发布新一代基座大模型Qwen3.8，千问AI平台首发其Max版API服务与Token Plan。Qwen3.8参数量2.4万亿，性能居前列，推理快且能自主编程。API性价比高，平台还为Token Plan用户提供优惠。
大模型热度退潮，真正的技术创新者开始被「看见」
过去两年中国大模型投资多是商业模式驱动，而技术投资注重创新。DeepSeek 出圈后，独立创新成主流。今年国内大模型吸金热度下降，但智谱 AI、面壁智能仍获融资。面壁智能发布 MiniCPM 4.0，在多方面优化，展现端侧优势。
复旦硬核青年：破解核材料百年难题，为人造太阳锻造不灭铠甲
张宏亮童年时便渴望稳定电力，考入复旦后历经行业寒冬。他深耕核材料研究，取得多项成果，能用新技术降低成本、能耗，揭示材料新机制，回国后又搭建研究系统、优化工艺等，还看重产学研结合和跨界融合。
GPT-5.2破解数论猜想获陶哲轩认证！OpenAI副总裁曝大动作：正改模型核心设计，吊打90%研究生但难出颠覆性发现
OpenAI 发布由 GPT - 5.2 加持的科研平台 Prism 并免费开放。副总裁 Kevin Weil 称目前模型难有颠覆性发现，但能加速科研。GPT - 5 能力超 90% 研究生，OpenAI 将优化其设计，让它更谦逊并自我核查。
Token售卖已无溢价、大模型公司转型“系统商”？记忆张量 CTO 李志宇：智能体能力会拉开差距，长期记忆与状态管理成竞争核心
InfoQ 采访记忆张量 CTO 李志宇，他指出 Scaling up 经济效益下降，大模型公司正变系统公司，核心是长期记忆与状态管理能力。2026 年若模型无代际差，价格战或加剧。智能体是主赛道，但现有模型推理能力不足。
中国AI芯片迎「华为时刻」
国内AI芯片市场正经历变革，“去英伟达化”成热词。科技巨头推动自研，9月国产芯片捷报频传，性能追赶超越英伟达。这既因地缘政治致供应链风险，也是AI从训练到推理转变下的必然选择。