「新注意力机制」共找到 4332 篇相关文章
谷歌Dreamer大神离职!「辛顿门徒」自曝错过Transformer
谷歌世界模型大牛Danijar Hafner宣布离任,他自2016年起在谷歌相关团队工作近十年,曾获辛顿指导,主导开发Dreamer系列。他还自曝曾错过Transformer,当时未在意其优势。
Meta|提出RECAP,通过动态目标重加权回放,解决RLVR遗忘【文末送书!Agent相关】
近年来,可验证奖励强化学习(RLVR)提升了大模型在多任务上的性能,但带来“能力退化”问题。Meta等提出RECAP策略,结合“回放”与“动态目标重加权”,保持模型通用能力,提升推理性能,还提高推理效率。
突发!Claude 4.5 发布,这次更新不止是模型!
Anthropic发布Claude 4.5,在编程等任务中表现优于GPT - 5。Claude Code升级,API添新功能,模型能力提升,对齐性改善。还推出Claude Agent SDK及“Imagine with Claude”功能。
庞若鸣还有苹果论文?改善预训练高质量数据枯竭困境
苹果基础模型原负责人庞若鸣在 Meta 任职期间,其在苹果参与的高价值研究仍不断发表。研究团队针对大模型训练中高质量数据枯竭问题,提出 Synthetic Bootstrapped Pretraining (SBP) 预训练流程,提升模型性能。
AI Pin 们折戟后,第二代 AI 硬件闷声发了大财
过去两年,第一代AI硬件喊出‘杀死智能手机’口号,赚足目光。当下,创业者不再将取代手机作为目标。第二批AI硬件‘边界感’强,专注细分场景,同时,科技巨头正布局全新AI层,‘隐形OS’雏形已现。
微软开源2周狂赚7.2K star!!轻量好用命令行编辑利器,程序员力荐!
微软开源命令行文本编辑器`Edit`,专为Windows Terminal设计,支持多系统。它轻量高效,功能丰富,兼容Windows生态,还有鼠标模式。开源半月获7.2K+ star,提供多种安装方式。
字节开源高效解析文档图像的新型多模态模型Dolphin,快速将复杂的文档图像转化为结构化数据。
字节开源新型多模态模型Dolphin,采用“先分析后解析”范式,能将复杂文档图像转化为结构化数据。它有卓越性能和多种特性,还提供安装、推理使用指南。
用 AI 重新定义 RSS 阅读体验FeedMe
FeedMe可一站式了解多信息源新鲜事,轻量自由且可定制。具备多源RSS聚合、AI摘要生成等功能,支持多种部署方式,如GitHub Pages、Vercel、Docker本地部署,还给出开发指南,项目开源方便Fork和自部署。
科创高地再结硕果!首钢园入选“北京市未来产业育新平台”
近日,北京市经信局公示第三批未来产业育新平台建设名单,7家平台入选,首钢园凭借元宇宙赛道实力获评。它构建数字产业生态,搭建培育体系,未来将升级产业培育,推进试验区建设。
1.5K Star!网页提取神器 webclaw:让 AI 精准抓取网页核心内容!
webclaw是专为AI工作流打造的高性能网页提取工具,能把网页转成适合大模型的内容。它有Token优化、极速响应等亮点,支持多种安装和使用方式,解决了传统抓取工具的痛点。