搜索：百万Token计算

「百万Token计算」共找到 1374 篇相关文章

19年不丢数据，擦写6万次不坏，原子级材料重新定义未来芯片

上海大学王震宇副教授团队在《自然·电子学》发文，用二硫化铌和二硫化钼做出新型非易失存储器，能保持数据约19年、擦写超6万次，还具备计算和存储两种本领，对未来低功耗计算和存内计算有吸引力。

文章深入分析DeepSeek和Anthropic策略，揭示行业计算资源稀缺难题。指出AI服务定价是延迟、吞吐量、上下文窗口三个指标的权衡，DeepSeek牺牲体验换研发，Anthropic提升‘智能密度’优化资源。

谷歌推出全新底层架构Mixture-of-Recursions（MoR），推理速度提高2倍、KV内存减半，首次在单一框架实现多任务处理与动态分配计算资源，研究人员通过实验验证其性能超Transformer。

大型语言模型推理延迟高、开销大，推测解码可加速但依赖草稿与主模型一致性。佐治亚理工等团队提出 AdaSPEC 蒸馏法，过滤难学 token，提升草稿模型与目标模型对齐度，实验显示能提升接受率和推理速度。

MIT理论计算机科学家Ryan Williams最新研究建立数学程序，将任意算法转化为占用空间更少的形式，证明少量计算内存比大量计算时间更有价值，打破计算机科学家近50年认知。

OpenAI凌晨发布GPT-5.4，或是4o模型后提升最大的一次。它价格较合理，有原生计算机操作能力，支持100万token上下文，还有工具搜索功能可降47% token损耗，与OpenClaw适配性佳。

大型推理模型存在「过度思考」问题，训练混合推理模型易出现奖励欺骗。南大等团队提出 TNT 方法，利用思考模式解答部分为问题动态设非思考模式 token 上限，解决奖励欺骗，实现准确率与效率双赢。

微软基于Phi - 4 - mini微调出Phi - 4 - mini - Flash - Reasoning 3B模型，扩展到200064 tokens。采用新型SambaY架构，支持64K token上下文长度，运行速度比前代快10倍，有诸多优点。

谷歌DeepMind发布新架构MoR，有望成Transformer杀手。它统一实现参数共享、自适应计算，兼顾性能与效率。实验显示其推理吞吐量提升，降低计算需求，但能否取代Transformer存疑。

KAIST、谷歌DeepMind等机构发布的MoR架构，推理速度翻倍、内存减半，重塑LLM性能边界，碾压传统Transformer。它融合参数共享与按需计算，有路由和KV缓存策略，实验显示其性能优越、可扩展性好。