搜索：连续深度表示

「连续深度表示」共找到 1124 篇相关文章

当AI遇到物理学 —— AAAI大会主题演讲（Daniel）

2026年AAAI大会上，物理学家Daniel Whiteson演讲探讨机器学习与基础物理。指出粒子物理用还原论解释宇宙，虽发现基础粒子，但仍有诸多未知。粒子对撞实验复杂，需机器学习辅助，深度学习已广泛应用，还能助力发现新粒子。

文章围绕FlashAttention展开，从Attention性能瓶颈引出问题，阐述其各版本演进。FA-1实现算法突破，避免O(N²)内存；FA-2适配架构，提升性能；FA-3深度协同，实现异步；FA-4探索更深异步和角色分工。还探讨跨芯片迁移及未来优化方向。

22岁开发者逆向开源Anthropic的Claude Mythos Preview模型架构，名为OpenMythos。其核心模块借鉴DeepSeek，采用带混合专家路由机制的循环Transformer，有独特设计和稳定机制，重新框定扩展性争论。

吴恩达发布《2026提示词工程大师课》，指出过去流行的提示词技巧已过时。课程介绍了成为AI高阶玩家的方法，如给足上下文、引导AI给出真实反馈、用渐进式大纲写作等，还提及AI知识获取、搜索及多模态能力等内容。

英伟达INTRA论文指出RAG架构中检索器和生成器在不同表示空间工作，存在retriever - generator mismatch问题。INTRA让模型用注意力查询检索自身编码表示，训练量小，在多跳QA上超越多种检索基线。

去年Sora等模型革新视频生成领域，相机可控的视频生成技术是构建世界模型核心。但从单视角生成极端视角视频是难题，PICO - MR团队提出EX - 4D，能从单目视频生成新视角视频，多方面表现出色。

近年来大语言模型隐私风险受关注，机器遗忘技术应运而生。港理工等团队构建表示空间诊断工具，区分‘可逆性遗忘’与‘不可逆遗忘’，揭示遗忘现象背后表示结构变化规律，还做了相关实验并得出核心结论。

ICML 2025新研究揭示，在使用RoPE的现代Transformer模型里，注意力机制Q和K表示有集中极大值，V表示无此模式。研究通过实验明确极大值与上下文知识理解的联系，对模型设计、优化和量化有重要启示。

ICML 2025新研究揭示，在使用旋转位置编码 (RoPE) 的现代Transformer模型中，注意力机制的查询 (Q) 和键 (K) 表示存在集中极大值，而值 (V) 表示无此模式。研究通过实验揭示其与上下文知识理解的关键联系。

2026世界机器人大会落幕，具身智能从‘表演特技’转向‘实景作业’。物理AI世界正快速到来，但机器人量产尚需时日，AI汽车或率先实现人机深度协作，AIVA汽车以‘AI定义汽车’理念打造鲜活生命体，与火山引擎深度合作。