「长序列」共找到 684 篇相关文章
华为新开源！扩散语言模型突破32K上下文，还解锁了「慢思考」
今年文本生成领域从自回归向扩散语言模型转变，但长序列训练不稳定是痛点。华为发布 openPangu-R-7B-Diffusion，将上下文长度扩至 32K，在多基准创 7B 参数量级 SOTA，还解析了其技术革新。
小红书最新开源TTS力作！4人对话自然无缝，毫秒极速响应！
近年来TTS技术爆发，但多人对话的自然流畅性和长序列稳定性一直是难点。小红书团队开源的FireRedTTS - 2是面向多人对话场景的TTS模型，实现自然切换和低延迟，支持多语言，适用于多种场景。
陶哲轩用GPT-5解决数学难题：仅29行Python代码
陶哲轩最新发帖称，GPT - 5帮他解决MathOverflow上的问题，证明序列lcm(1,2,…,n)并非高度丰数的子集。他与GPT - 5沟通生成参数，并用其生成的29行Python脚本验证，且未遇AI幻觉问题。这不是他首次用AI解题。
顶模 Fable 5.1发布，到底强了多少？
昨晚，Anthropic发布Fable 5.1和Mythos 5.1，这代沿用Fable 5参数，性能提升聚焦长任务，还降低缓存读取价。它在游戏、视频等多个领域表现出色，与同类模型对比进步明显，虽价格贵，但能力、速度有提升。
OpenAI总裁底牌全交了：买下地球上所有的算力
OpenAI总裁Greg Brockman接受访谈，核心观点是世界长期缺算力。他指出算力需求远未释放，H100涨价凸显供应紧张，OpenAI要全买光算力、自研芯片，还谈到价格与利润、产品形态、智能体应用及医疗领域潜力等。
Qwen3-Next全新架构，32K场景MTP吞吐提升10倍
随着模型大小和上下文长度增加，为应对成本和部署挑战，Qwen3 - Next有突破性架构创新，解决上下文长度和总参数缩放问题。它采用混合注意力、超稀疏MoE等，MTP机制让其长上下文推理吞吐量比前身高10倍以上。
张小珺采访了Kimi杨植麟，Agent泛化的临界点来了。
张小珺采访Kimi杨植麟，杨分享技术见解。如Scaling Law遇瓶颈，应提升Token效率；Adam与Muon对比，Muon学习效率高；模型公司下场做一方Agent产品，垂直整合模式上限高；还谈及长上下文、Agent训练及管理方式等问题。
中科院类脑大模型SpikingBrain，2%数据，百倍速度
中国科学院自动化研究所李国齐、徐波团队发布全球首款大规模类脑脉冲大模型SpikingBrain 1.0。它处理长文本比主流Transformer模型快超百倍，训练数据仅为2%。该模型采用新架构，降低计算复杂度，还可转换现有模型，且在国产GPU完成训练。
欲取代transformer的SSA(次平方稀疏注意力)解读
文章解读了欲取代Transformer的SSA（次平方稀疏注意力）算法。它支持12M tokens上下文，比fastAttention快52倍，训练和推理更快。SSA改变了注意力扩展特性，有计算和内存线性扩展等特性，经三阶段训练可可靠利用长上下文。
接入 MiniMax M2.7 后，我的 OpenClaw「超进化」了
作者实测 MiniMax 新模型 M2.7，其在基准测试、代码能力、多智能体协作等方面表现出色。接入 OpenClaw 后，能高效完成复杂任务。M2.7 指令遵循率高、长上下文处理能力强且价格低，有望提升 Agent 生态表现。