「Token 工程」共找到 1340 篇相关文章
ICML 2025 Spotlight｜华为诺亚提出端侧大模型新架构MoLE，内存搬运代价降低1000倍
华为诺亚和北大研究人员提出端侧大模型新架构MoLE。它解决传统MoE显存开销大、传输延迟高问题，推理时将专家输入改embedding token，用查找表替代矩阵运算，实验显示性能与MoE相当，大幅降推理延迟。
比Gemini 3记得更多，谷歌新框架将上下文记忆干到了200万！
Google在NeurlPS2025大会推出结合RNN与Transformer的全新架构Titans，能扩展到超200万个token上下文。背后涉及Titans和MIRAS两篇论文，共同推进测试时记忆概念，实验显示新架构性能出色。
Claude写80%代码，Anthropic工程师却越来越孤独
Anthropic工程负责人Fiona Fung带领团队用Claude Code使人均代码量翻8倍，但工程师交流减少，孤独感渐生。此外，还存在上下文切换、心流体验变淡、工作意义减弱等问题，工程师职业边界也在变模糊。
姚顺宇谷歌首秀，Gemini新模型刷爆SOTA：人类仅剩7人捍卫碳基编程
面对Claude Opus 4.6和GPT Codex 5.3的攻势，谷歌升级Gemini 3 Deep Think，在多项基准测试刷爆SOTA，推理成本降低82%。它还走进科研工程领域，其研发团队有不少华人，如姚顺宇、Yi Tay。
AI 太烧钱！微软选择「倒戈」DeepSeek
微软宣布Copilot Cowork全球上线并引入按使用量计费机制，还评估引入DeepSeek V4。Agent普及使AI成本问题凸显，微软进行系统性重构，构建质量保障体系，成本工程化能力成竞争新焦点。
【访谈对话】造过 Codex 的人，为什么每天用 Claude Code
Calvin French - Owen 曾参与构建 Codex，如今日常用 Claude Code。他与 Garry Tan 在 YC 播客对话，探讨了编程 Agent 产品哲学差异、分发逻辑、上下文工程等，还提及 Segment 重建、未来设想及安全等问题。
Claude 5史诗级泄露，史上最强编程模型评测炸裂！核心秘密曝光
Anthropic的Claude Sonnet 5即将发布，已存在于谷歌基础设施中，性能领先谷歌‘Snow Bunny’一代。它价格比Opus 4.5便宜50%，有100万token上下文窗口，SWE - Bench成绩超80.9%，还有自动开发团队模型。
MCP 或将成弃子
Anthropic工程师发博客‘背刺’自家MCP，提出新方案让token消耗大减。新方案把MCP服务器转成代码文件运行，Skills或成MCP替代品，虽MCP还有价值场景，但多数情况下代码+Skills更优。
把 RAG 做成主流的公司，现在开始“做空”RAG 了
Pinecone 曾将 RAG 定义成大语言模型 grounding 标准范式，如今却宣布 RAG 时代结束。它推出面向 Agent 的知识引擎 Nexus，提出“知识编译”概念，称能提高任务完成率、降低 token 开销，整个 AI 世界都在将“推理”往上游移动。
从拒绝AI到一切先问Agent，DHH：这是我最爽的编程时刻之一，但程序员黄金时代到头了
Ruby on Rails 作者 DHH 从拒绝 AI 到拥抱 Agent-First 编程工作流。他认为 Rails 因 token 效率或复兴，设计能力成核心竞争力，资深工程师更易从 AI 获益，程序员黄金时代或到头。他分享了使用 Agent 的体验和对行业的看法。