搜索：几何上下文注意力

「几何上下文注意力」共找到 899 篇相关文章

田渊栋：连续思维链效率更高，可同时编码多个路径，“叠加态”式并行搜索

AI大牛田渊栋团队利用连续空间“叠加态”让大模型并行推理，提升图可达性等任务表现，为连续思维链提供理论支持。还设计注意力选择器等机制，实验显示连续思维链模型准确率更高。此外，田渊栋还是科幻小说家。

浙江大学ReLER团队开源的PhyEdit，用3D foundation model明确目标几何，让DiT图像编辑器负责最终渲染。单张图片里物体能移动并形成连续状态，在多项指标表现出色，还具备多种能力，已被ACM MM 2026接收。

OpenAI首席执行官奥特曼预言，未来6个月，下一代AI将彻底看懂用户，实现人机共生。当前OpenAI的Chronicle和Dreaming V3分别在屏幕上下文与对话合成方面有进展，且几乎整个AI行业都在押注记忆方向。

近日OpenAI将ChatGPT语音功能正式引入桌面版，其底层是新一代语音模型GPT - Live。大佬们看好语音输入，因其能高带宽传递上下文。该功能不仅能闲聊，还可调度智能体，OpenAI想让ChatGPT成AI工作操作系统。

腾讯混元Hy3正式版发布，总参数295B、激活参数21B，最大支持256K上下文。它是快慢思考融合的MoE模型，重点提升Coding和Agent能力。其加持下，元宝大升级，能完成办公、生活等多场景任务。

DeepSeek V4技术报告被深挖，为保留核心设计「batch invariance」不惜代价。该设计能保证线上推理稳定、各环节对齐，是复杂上下文系统底座，但会牺牲GPU利用率等，换来训练等多阶段可复现和稳定度。

作者作为测试架构师，认为减少CI回归测试套件规模理论诱人但实践常失望。介绍有效处理大型测试套件的方案，如随机趋势分析、多上下文模式匹配等，还谈及无门控测试等优势，能助力管理测试集。

当前多模态大模型在空间理解任务表现弱，缺乏对几何信息提取能力。清华联合美团推出3DThinker，无需3D标注和外部工具，让模型内蕴‘想象’三维场景，在多基准上提升效果，且具备一定可解释性。

具身导航正从‘几何避障’向‘空间智能’跨越，当前领域经历范式变革。GAIR Live 023期线上圆桌将聚焦其前沿进展与落地问题，邀请两位专家拆解底层逻辑，还给出了核心议题、讨论精华预览及参与方式。

阿里云等团队推出面向 Sparse Attention 的分层稀疏化框架，介绍其架构、机制与实践。此框架破解了长上下文推理时的计算与容量瓶颈，以 DeepSeek DSA 集成测试，使推理性能大幅提升，目前项目处于开发阶段。