「长度泛化能力」共找到 3410 篇相关文章
李飞飞自曝详细创业经历：五年前因眼睛受伤，坚定要做世界模型
在a16z播客节目中，“AI教母”李飞飞讲述创业经历。五年前眼伤失立体视觉，让她意识到其对空间交互的决定性作用。她认为真正通用智能需理解物理世界，与Martin Casado一拍即合创立World Labs，加速世界模型突破。
最新发现！每参数3.6比特，语言模型最多能记住这么多
Meta、DeepMind等团队研究语言模型记忆容量，提出新方法估计模型对数据点的‘了解’程度，发现GPT系列模型约每个参数3.6比特，还提出模型容量等相关定律，激发社区多方面思考。
Mamba核心作者新作：取代DeepSeek在用的注意力机制，专为推理打造
Mamba核心作者Tri Dao团队提出GTA和GLA两种专为推理定制的注意力机制，在减少KV缓存用量、保持模型质量的同时，显著提升解码速度，优化长上下文推理能力。
与Gemini Diffusion共振！首个扩散式「发散思维链」来了
西湖大学齐国君教授团队提出扩散式「发散思维链」，这是面向扩散语言模型的新型推理范式。它与传统思维链不同，能非线性生成，已应用于两种模型，增强后的模型在相关任务上超越现有模型。
使用最新的 Claude 4，我用两天就开发出一个视频编辑器，但却无法维护
作者用Claude 4两天开发出视频编辑器，却难维护。分析原因，指出AI编程在模块级强，但系统层面不足，还列举网友讨论，探讨AI在软件工程各方面的能力及局限。
大模型首次打破围棋思维「黑盒」，打通科学发现新路径！上海AI Lab发布新一代InternThinker
上海AI Lab发布新一代书生·思客（InternThinker），它是我国首个具围棋专业水平且能展示透明思维链的大模型。其得益于InternBootcamp训练环境，还在多任务混合训练中现‘涌现时刻’，背后有通专融合底层技术突破。
微软发布多智能体 Web 操作系统！让 AI 成为真正“可控、协同、透明”的网页执行助手！
微软推出新一代多智能体 Web 操作系统 Magentic - UI，它能自动浏览网页、处理数据等，具备多智能体协同能力。其界面透明可控，功能丰富，安装使用友好，适用于多种复杂场景。
智源技术分享：大模型行业应用新模式和关键实现路径
在 AICon 大会上，智源研究院周华分享大模型行业应用。分析落地问题，提出以大模型为核心的技术路径，涵盖数据、训练等环节，还给出数据生产流程建议，分享最新开源成果。
快手&中科院 | 提出多模态奖励模型：R1-Reward，比SOTA模型提升5%-15%！
多模态奖励模型对提升多模态大语言模型表现至关重要，但现有强化学习算法用于训练存在问题。快手、中科院等团队提出 R1 - Reward，在基准上比 SOTA 提升 5% - 15%，还在快手业务场景成功应用。
从自己出题到自己选题：耶鲁新方法让大模型 Self-Evolution 又进一步
本文解读了耶鲁、斯坦福等多机构联合提出的INFUSER大模型自进化新方法，针对现有方法仅以难度筛选训练数据的缺陷，提出用影响力分数筛选高价值训练题，实现双模型协同动态进化，实验验证效果显著。