「注意力控制」共找到 665 篇相关文章
LeCun的世界模型单GPU就能跑了
LeCun世界模型有新进展，开源极简训练方案LeWorldModel，单GPU就能跑，基于JEPA架构，速度快、参数小、控制强且懂物理，完胜此前JEPA方法，训练更简单。
省下1.25倍算力！Kimi这篇论文，可能改写所有大模型的训练方式
大模型层数增多时，残差连接存在PreNorm稀释问题，导致后面层贡献被稀释。Kimi论文提出Attention Residuals方案，还给出工程解法Block AttnRes，实验显示能省算力且提升效果。
Anthropic：上下文工程在AI Agents的正确打开方式！
在‘提示工程’后，‘上下文工程’成焦点。它是提示工程延伸，因信息过多模型会‘失焦’，上下文是稀缺资源。文章介绍高效上下文‘解剖学’、运行时检索策略、长周期任务应对方法等。
使用 GPT-5 进行编程的六个技巧
OpenAI给出使用GPT - 5编程的6个提示技巧，如指令准确无冲突、选对推理力度、用类XML语法结构化规则等，还提供了详细提示技巧的参考链接。
刚刚，Anthropic 成立了个 AI精神病学团队，正在招人
Anthropic宣布成立「AI精神病学」团队，作为可解释性研究一部分，将研究模型人格、动机等致其行为异常的因素。团队现正招聘研究科学家，不过此举措也引发争议。
LeCun发布最新世界模型：首次实现16秒连贯场景预测，具身智能掌握第一视角！还打脸用了VAE
LeCun团队推出PEVA模型，让具身智能体学会人类“预判能力”，首次实现16秒连贯场景预测。它结合结构化动作表示与条件扩散Transformer，用真实数据训练，解决长时序问题，还能筛选最优动作。
视频生成比播放还快：开源VDN-H3，14秒视频11秒搞定
近期，网络出现“无限流”视频，源于MiniMax H3。OpenVDN团队开源Video Delta Net（VDN），基于MiniMax H3使视频生成速度提升75到90倍，14.4秒的768p视频11.23秒就能生成。它采用混合思路，性能提升显著。
多人会话视频生成新突破：香港科技大学，浙江大学用单人数据实现多人交互视频生成
香港科技大学、浙江大学等开源 AnyTalker，提出音频驱动多人交互生成新范式。它用创新机制和两阶段训练策略，以少量数据实现多人视频生成，还构建评估指标，性能超现有方法。
只演示一次，机器人就会干活了？北大&BeingBeyond联合团队用“分层小脑+仿真分身”让G1零样本上岗
北大与BeingBeyond团队提出DemoHLM框架，仅需1次仿真演示就能生成海量训练数据，解决人形机器人移动操作数据效率低、任务泛化差、Sim-to-Real迁移难的问题，在仿真和真实机器人上验证效果良好。
独家丨MiniMax 高级研究总监钟怡然已于半年前离职
AI 科技评论独家获悉，MiniMax 高级研究总监钟怡然已离职，去向未公开。他曾主导设计 MiniMax - 01，该模型在超长上下文处理能力上表现突出，走出独特架构创新与效率优化路径。