推荐文章9

腾讯15年工程师转战大模型推理

腾讯技术工程2026-09-22

AI 摘要

吴银光：AI浪潮下传统后台工程师的系统经验被低估，转型切入大模型推理业务层、Agent Infra是绝佳方向，放下头衔从零出发是抓住机遇的好选择。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

Kimi K3 开放权重：总参数达 2.8T

月之暗面发布 Kimi K3 技术报告并开放权重，总参数达 2.8T（激活 104B），支持 100 万 token 上下文，主攻 Agent 持续运行数小时的长任务系统改造。

国产芯片厂商天数智芯现场对比英伟达：云端GPU天垓300大模型推理吞吐达英伟达H200的1.05倍；端侧芯片TY1200大模型跑分也超Jetson Thor。

指导智能体（Agent）执行复杂任务的关键在于明确验收标准与安全边界。文章整理了定义完成条件、维护长任务清单等 12 条实用规则，并提供了提示词骨架模版。

DeepSeek开源了支撑自身大规模推理服务的框架DeepInfer与配套token编解码组件deepseek-recipe，披露的吞吐量数据经计算得出大模型API毛利率达82%，引发AI行业对盈利性与推理优化的广泛讨论。