搜索：百万Token计算

「百万Token计算」共找到 1374 篇相关文章

冗长响应缩减80%，DeepSeek GRPO获得颠覆性改进，微软GFPO问世

微软研究员曝出颠覆性强化学习算法 GFPO，能削减推理多余 token 长度达 80%。它基于 DeepSeek 的 GRPO，可同时优化多响应属性，团队还提出自适应难度变体，实验显示 GFPO 在多方面表现出色。

文章讨论CUDA kernel执行重叠，指出有足够计算资源时可重叠，通过调整`blocks_per_grid`值，观察到不同并行化程度。还提到隐式同步会影响重叠，可启用`per-thread` default Stream 禁用。

在第四届智能流体力学产业联合体大会发布的数字孪生风洞「风神NF3」相关技术在《太阳能学报》发表。基于风雷软件构建西北工业大学NF - 3数字风洞，可自动生成网格、高效计算，实现飞行器翼型数值模拟自动化和业务化运行。

华为诺亚和北大研究人员提出端侧大模型新架构MoLE。它解决传统MoE显存开销大、传输延迟高问题，推理时将专家输入改embedding token，用查找表替代矩阵运算，实验显示性能与MoE相当，大幅降推理延迟。

Google在NeurlPS2025大会推出结合RNN与Transformer的全新架构Titans，能扩展到超200万个token上下文。背后涉及Titans和MIRAS两篇论文，共同推进测试时记忆概念，实验显示新架构性能出色。

18日，英伟达与英特尔宣布深度合作，联合开发产品。英伟达将斥资50亿美元入股英特尔，双方以NVLink技术连接架构，合作聚焦数据中心和个人计算领域，旨在提升运行效率，填补产品空白。

Techcrunch消息，亚马逊升级版AI助手Alexa+自2025年2月推出后用户稳步增长，6月底未全面公测时已超百万。它体验个性化，有新能力，还能促使用户行动，初步合作多知名平台。

美团龙猫LongCat系列发布全新稀疏注意力机制LoZA，重点解决长文本任务难题。它在MLA机制基础改造，计算复杂度降至线性，处理128K上下文解码快10倍，性能不缩水，后续还计划支持动态稀疏比例。

谷歌研究院推出TurboQuant压缩算法，可将AI推理中最吃内存的KV cache压缩至少6倍且精度零损失，还能8倍加速计算。虽引发存储芯片巨头股价下跌，但目前只是实验室成果，仅解决推理阶段内存问题。

Anthropic的Claude Sonnet 5即将发布，已存在于谷歌基础设施中，性能领先谷歌‘Snow Bunny’一代。它价格比Opus 4.5便宜50%，有100万token上下文窗口，SWE - Bench成绩超80.9%，还有自动开发团队模型。