多尺度Transformer」共找到 4271 篇相关文章

算法论文8

Transformer已死?DeepMind正在押注另一条AGI路线

谷歌团队借鉴人类联想记忆,提出嵌套学习,解决AI「灾难性遗忘」问题。强调优化器与架构协同进化,构建联想记忆系统。HOPE架构在任务表现出色,或开启AI从被动训练到主动进化大门。

新智元
新闻资讯7

Anthropic 研究员:强化学习将推动 Transformer 实现 AGI

在 AI Agenda Live 纽约活动上,Anthropic 强化学习团队技术负责人 Sholto Douglas 称,无需新架构突破,强化学习能让 Transformer 达人类专家级别表现,接近 AGI。但定义「好表现」是难题,Anthropic 或投 10 亿美元提升模型企业应用表现。

AGI Hunt
新闻资讯8

Transformer八周年!Attention Is All You Need被引破18万封神

Transformer已满8岁,其开创性论文《Attention Is All You Need》被引超18万次,掀起生成式AI革命。它催生诸前沿产品,让人类跨入生成式AI时代,虽起初未受关注,但如今影响深远,谷歌态度也在改变。

新智元
产品应用8

开箱即用、本地安全、 Agent 协同解决方案!

过去一年,Agent热度高,但企业应用面临算力、安全和部署门槛。5月22日浪潮信息推出元脑智能体工作站Z3,整合大模型本地推理等功能,解决本地Agent运行问题,降低使用门槛,保障安全。

GitHubStore
推荐文章7

评论送书 | 一文读懂Agent系统演进趋势

文章指出Agent系统成大模型应用重要方向。分析大模型交互的上下文瓶颈,如语义膨胀、信息密度不均等;阐述Agent间协同结构演化,包括松耦合编排、语义协同等;还说明传统Prompt工程局限及通信与上下文协议的作用。

AIGC开放社区
开源动态8

Agent 并行,手机也能用,已经 4 万星!

GitHub上项目Orca是专为「并行Agent」做的开发环境,开源4个月揽4万+ Star。它让个Agent在独立git worktree里并行干活,互不干扰,还支持近30款主流Agent,另有种实用功能,安装也简单。

开源先锋
新闻资讯7

谷歌Dreamer大神离职!「辛顿门徒」自曝错过Transformer

谷歌世界模型大牛Danijar Hafner宣布离任,他自2016年起在谷歌相关团队工作近十年,曾获辛顿指导,主导开发Dreamer系列。他还自曝曾错过Transformer,当时未在意其优势。

新智元
新闻资讯8

Transformer作者:DeepSeek才有搞头,OpenAI指望不上了

Transformer发明者Ashish Vaswani认为OpenAI等闭源厂商被商业化冲昏头脑,没心思做基础研究。他All in基础研究,坚持开源路线,想打造西方世界的DeepSeek。其团队论文提出颠覆性观点,或降低训练成本。

量子位
算法论文7

智能体大语言模型中的人类自适应协作

尽管大语言模型有进展,但纯自治智能体系统有局限。为此提出 HILA 框架及双环策略优化机制,结合 DLPO 的 HILA 在基准测试中表现出色,为构建 Agentic 系统提供指导。

深度学习自然语言处理
新闻资讯7

刚刚,OpenAI新Transformer火了!Astra架构首次曝光

OpenAI下一代Astra采用「循环深度」推理方法,思考Token减少但性能提升,不过其思考过程难监控。此前业界已对「循环Transformer」有研究,该架构适合数学编程任务,Astra实力获验证,GPT - 6或即将发布。

新智元