搜索：几何上下文注意力

「几何上下文注意力」共找到 899 篇相关文章

剪映前AI产品负责人创业多模态Agent，做懂上下文的007乙方，成立半月融资数百万美元

剪映前AI产品负责人廖谦创业，成立极致上下文公司，获数百万美元投资。公司首要打造面向营销场景的多模态Agent，中长期搭建AI信息表达系统，他认为当下是创业好时机，且无传统意义上的护城河。

3D高斯泼溅推动神经渲染发展，但提取3D几何表面易失真，核心瓶颈是光度多义性。北航与新国大团队提出AmbiSuR框架，从表征和监督层面解决问题，实验证明其在多数据集表现优异。

最近基模发布多，OpenAI 俩更新被低估忽略。一是 GPT - 5.6 Sol 的 Ultrafast 模式，输出最高达每秒 750 Token，先向少量 API 客户开放；二是 Codex 为其开放百万上下文能力，不过大窗口有代价。

ACL公布2025年获奖论文，中国作者比例超51%。DeepSeek梁文锋通讯、实习生袁境阳一作的论文获Best Paper奖。其提出NSA机制，实验显示性能优、准确率高、速度提升显著，成果或用于DeepSeek V4。

本文聚焦多模态大模型，提出基于 OCR 任务量化注意力头视觉偏好的方法，发现仅不到 5%“视觉头”主导视觉理解。还提出 SparseMM 策略优化 KV - Cache 资源分配，经多基准评测，性能和效率表现优。

Fable 5在AI圈爆火，但使用成本比其他型号贵至少5倍。pxpipe项目把适合压缩的大段文本渲染成PNG图片，交给多模态模型读取，能大幅降低成本，还能增加上下文长度。

字节跳动的AI编程助手Trae发布2.0版本，新增SOLO模式，可实现从想法到应用的一站式交付。上下文工程领域热度攀升，该概念因Andrej Karpathy推动而爆火，Trae迭代快，已建立完整能力体系。

2025年生成式推荐发展火热，但工业界落地多在序列化建模，替换传统范式遇阻。Shopee傅聪团队联合人大高瓴学院提出OnePiece范式，是业内首个融合多策略的生成式搜推建模框架，含上下文工程、隐式推理和多目标训练策略。

今日凌晨，GLM系列模型四位研发成员在Reddit的AMA活动中，回答了GLM系列技术细节、未来规划等问题。透露扩展上下文、推小模型是重点，还承诺尽快发新模型，也探讨了大模型发展观点。

本文为《2025 年度盘点与趋势洞察》系列之一，聚焦 AI Coding 在程序员群体的演进与落地。探讨了 Spec 驱动开发、Agent 崛起、Token 成本等问题，指出上下文工程是 AI Coding 成败关键。