「长序列合成」共找到 867 篇相关文章
8B模型可以超过GPT-4o！并行KV Cache压缩支持的128K长度外推方法ParallelComp
大模型长文本推理存在瓶颈，作者提出 ParallelComp 方案。它有并行 Attention 分块、KV 缓存智能淘汰与注意力偏差校准三大创新，能让 8B 模型性能达 GPT - 4o 的 91.17%，特定任务超 GPT - 4o。
ICML26 | 浙江理工大学马啸讲师和南京大学李武军教授课题组联合提出EMCES：为强化学习合成更有价值的样本
强化学习获取高质量样本成本高、风险大，现有基于扩散模型的样本增强方法有局限。浙江理工大学马啸讲师和南京大学李武军教授课题组提出 EMCES，将情景记忆机制引入可控扩散模型，提升下游强化学习算法表现，论文已被 ICML2026 录用。
不用千亿参数也能合成高质量数据！这个开源框架让小模型“组团逆袭”，7B性能直追72B
上海人工智能实验室与中国人民大学提出GRA框架，以“多人协作”理念让小模型分工生成高质量训练数据。实验显示其生成数据质量高，项目已开源。它打破对大模型蒸馏依赖，展现“集体智能”潜力。
全流程国产GPU，上下文提速100倍！中国科学院发布「线性复杂度」类脑大模型
中国科学院自动化所李国齐、徐波团队发布国产自主可控类脑脉冲大模型SpikingBrain-1.0，训练推理全用国产GPU。它具线性复杂度，超长序列处理速度快，还开源7B模型，为类脑智能发展提供新思路。
Token烧不起了？比肩Claude Opus 4.6免费模型来了，还将开源
昆仑万维旗下天工AI发布SkyClaw - v1.0，为Agent场景深度优化，免费试用后将开源，价格低。性能超同级别开源对手，逼近闭源巨头。训练围绕环境构建、数据合成、强化学习展开，适合长链路Agent工作流。
ICML 2025 | 千倍长度泛化！蚂蚁新注意力机制GCA实现16M长上下文精准理解
在大语言模型发展中，长文本建模挑战大。蚂蚁研究团队提出注意力机制GCA，可端到端学习检索相关片段，实现超长序列处理与泛化，其Triton kernel实现已开源，论文被ICML 2025接收。
一张俯视图，竟然能生成完整3D小镇？
获取高质量3D场景成本高、耗时长，现有3D生成模型扩展到完整场景生成时问题多。加州大学提出无需训练的3DTown框架，能从单张俯视图合成真实连贯3D场景，虽有挑战但表现优于基线方法。
真碾压Sora了！谷歌Veo 3首次实现音画同步，视频模型直接「开口说话」
谷歌正式发布Veo 3，它能生成高质量视频，还能理解原始像素，自动生成与画面同步的对话、多种音效。得益于DeepMind的V2A底层技术，其音画合成功能领先。虽有时长和使用门槛限制，但已足够震撼。
NeurIPS 2025 | 面向具身场景的生成式渲染器TC-Light来了，代码已开源
TC-Light 是中科院自动化所张兆翔教授团队研发的生成式渲染器，能对长视频序列重渲染，减少 Sim2Real Gap 及实现数据增强。它克服了时序一致性和计算开销挑战，性能优于现有技术，论文与代码已开源。
Sora2还在5秒打转，字节AI生视频已经4分钟“起飞”
字节和UCLA联合提出Self - Forcing++方法，无需更换模型架构或重收集数据集，就能生成分钟级长视频，最长达4分15秒，高质量且开源，在长、短时长生成上性能领先。