「推理成本」共找到 3310 篇相关文章
Qwen&清华团队颠覆常识：大模型强化学习仅用20%关键token，比用全部token训练还好
Qwen与清华LeapLab团队研究发现，大模型强化学习训练推理能力时，仅20%高熵token就能撑起效果，甚至超全部token训练。团队用此在Qwen3-32B创造新SOTA记录，还探讨了强化学习的相关特性。
LightLLM中DeepSeek V3/R1 Two MicroBatch Overlap 实现解析
文章围绕LightLLM中DeepSeek V3/R1的Two MicroBatch Overlap实现展开。介绍了该技术原理，通过拆分推理过程、精心设计执行顺序实现计算与通信重叠。还阐述了数据结构设计、预处理、核心执行流程，以及优化策略和配置启用方式。
大模型之外，向量存储如何支撑 Agent 的检索链路
文章指出大模型负责理解、推理和生成，而Agent需获取外部数据等。向量存储可将数据转化为语义向量，在Agent执行任务时找回相关内容。文章探讨向量存储技术方向，分享做法，还演示阿里云两种Serverless向量存储用法。
两个小时，10美元，Karpathy做了一个《指环王》3D游戏
Andrej Karpathy 让 Opus 5 根据《指环王》开篇文字，用 Three.js 制作三维场景，成本约 10 美元，两小时写出 5500 行代码。虽效果粗糙但有趣，他设想未来大模型能按需生成虚拟世界，不过也暴露大模型难以检查成果的问题。
内存四年涨700%，长鑫LPDDR6送样能把价格打下来吗
近期“长鑫DDR6送审”刷屏，实则涉及技术进度、资本事件、供应链前置动作。文章分析长鑫进展含金量，认为国产DRAM首次和国际标准处同一窗口。此轮存储涨价因HBM抽走通用产能，长鑫或补通用市场空缺。
AI创业，已经没有“出海”这个词了丨量子位沙龙
量子位举办「聊聊出海应用、场景与渠道」沙龙，实战派分享AI出海生存逻辑，涉及搞钱、降本、捷径等方面。指出AI出海下半场是“去AI化”，用户更关注能否解决问题。还介绍了各企业负责人观点与经验。
不卷速度卷验证，陈天桥MiroMind精准预测15天后黄金价格
陈天桥带队的MiroMind发布新一代重型推理智能体MiroThinker-1.7和MiroThinker-H1，在基准测试中表现优异，超越众多顶尖模型。该模型不仅通用任务强，在科技金融等专业领域也表现亮眼，还能承担真实长链条智力任务。
豆包 Seed 2.0 来了：字节模型跨越鸿沟
春节前字节发布豆包大模型 2.0，其在 Text 领域进入榜单前十，视觉能力全球第四且成本低。它定位多模态 Agent 模型，有多种能力升级，文中用多个案例展示其强大，还强调字节重原生能力非简单蒸馏。
在参与OpenAI、Google、Amazon的50个AI项目后，他们总结出了大多数AI产品失败的原因
Aishwarya Naresh Reganti 和 Kiriti Badam 参与超50个企业级AI产品构建。他们指出，如今AI产品构建成本降低，但多数仍失败。还分享开发陷阱与路径，如从低自治高控制起步、建立CC/CD框架等，也对AI未来发表看法。
xAI员工赢麻了！全员换股SpaceX，AI月烧10亿美元终于有人兜底了
今天凌晨，计划今年 IPO 的 SpaceX 收购 xAI，全股票交易，新公司估值 1.25 万亿美元。马斯克阐明“太空 AI 算力”路线，认为未来两到三年，AI 计算成本最低的地方会在太空，但面临诸多问题。此次合并或是为 IPO 铺路。