「长上下文任务」共找到 2874 篇相关文章
Kimi开源新线性注意力架构，首次超越全注意力模型，推理速度暴涨6倍
月之暗面发布开源Kimi Linear架构，用新注意力机制首次超越全注意力模型。长上下文任务中，它减少75%的KV缓存需求，推理加速达6倍。核心创新Kimi Delta Attention有细粒度遗忘门控等特点。
万帧实时！流式3D重建天花板，被国产开源模型打破了
蚂蚁正式开源 LingBot-Map，这是基于几何上下文 Transformer 的纯自回归流式 3D 重建基础模型。它能在恒定内存下实现超万帧长视频实时三维重建，处理速度约 20 FPS，在多基准测试中超越现有流式方法。
用动作分块突破RL极限，伯克利引入模仿学习，超越离线/在线SOTA
如今强化学习在多领域成果显著，但在长跨度、稀疏奖励任务中表现欠佳。加州大学伯克利分校研究者提出Q - chunking方法，将动作分块引入基于时序差分的强化学习，解决探索效率和值传播问题，实验表现优异。
一键实现PPT演讲自由！「解说音频+视频」同步生成，效果逼近真人
澳大利亚与英国研究人员提出文档到演示视频生成任务，推出PresentAgent系统。它能将长文档转为带语音和同步幻灯片的视频，流程可控且适应多领域。实验显示其生成视频接近人类表现，还设计了双路径评估策略。
多尺度特征融合：原理、结构与实用算法案例
文章介绍多尺度特征融合技术，它结合网络不同层次特征以捕获丰富上下文信息，在目标检测等任务广泛应用。阐述原理、常用方法，介绍FPN、U - Net等结构，并给出基于这些结构的实用算法案例与Python代码。
1万亿参数Ling-1T开源，国产LLM牛了~
Ling-1T是Ling 2.0系列首款旗舰“非思维”模型，总参数量达1万亿。预训练数据超20万亿token，支持128K上下文长度。在多项任务中表现出色，是目前已知最大的FP8训练基座模型，已完成全面评测。
Karpathy：大模型交互的第三种范式来了？这是不是夸大其词
Anthropic 上线 Claude Tag，可让团队在 Slack 与 Claude 协作，能完成写 PR、数据分析等任务，有多人协作、积累上下文等特点。Karpathy 认为这是大模型 UI 第三次大改，但评论区有质疑，不过有大咖背书或成‘数字员工’。
LLM近期重大架构进化一览：从Gemma 4到DeepSeek V4
近期大模型长上下文需求增长，成本问题凸显。Google Gemma 4、Poolside Laguna XS.2、Zyphra ZAYA1 - 8B、DeepSeek V4 等模型各有架构优化，如 Gemma 4 跨层 KV 共享和 PLE，以降低长上下文推理成本。
和Anthropic CEO一起发过Nature，他用Claude Code复活三年烂尾代码
华盛顿大学首席开发者Brendan MacLean用Claude Code复活三年烂尾代码。他像带实习生一样带Claude，构建上下文让其理解代码库。同一周OpenAI开源Symphony，实现任务自动派Agent。二者路线不同但目的相同，都在探索让AI融入工程流程。
首篇自进化智能体系统技术报告出炉：Token成本直降近10倍，省钱又高效！
全球首个基于‘上下文信息密度最大化’的自进化智能体系统GA发布技术报告。它在多基准测试表现惊艳，能省近10倍Token，还能自我进化。报告深度解读设计理念，剖析自进化能力与智能体设计思路。