开源动态7
开发者用老机器5.5分钟训练Transformer
机器之心
AI 摘要
开发者复现1970年代技术,用PDP - 11汇编语言实现ATTN - 11项目,训练单层单头Transformer仅需5.5分钟。此成果在低资源下实现功能闭环,引发网友对Transformer所需条件的思考。
阅读原文 · 机器之心
在一台1970年代的PDP-11上训练Transformer需要多久?答案是5.5分钟
近日,开发者复现1970年代技术环境,用PDP - 11汇编语言实现Transformer并训练成功,项目叫ATTN - 11。在低资源下实现功能闭环引热议,大家思考Transformer到底需要什么。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
产品应用9
阶跃发布首款Agent手机STEPX Neo
本文作者实测体验阶跃终端推出的首款大模型原生Agent手机STEPX Neo,介绍了产品设计、原生Agent系统能力、创客开发生态与系统级安全方案,公布了产品定价与用户福利。
量子位
新闻资讯8
Kimi K3 DeepRSI夺国产第一
本文报道Jeff Dean投资的AI初创公司推出DeepRSI新基准,测试大模型递归自我改进能力,设置48小时无网络自主科研挑战,最终Kimi K3拿下国产第一、开源第一,成果引发行业关注。
量子位
算法论文8
Token压缩率飙升60% 大模型分词革新
当前大模型效率优化多聚焦降低单位Token计算存储开销,本文解读arXiv新预印论文,针对传统BPE分词的固有局限,提出CNF-MCE分词框架,可大幅提升Token压缩率,开辟大模型效率优化新路径。
InfoQ
新闻资讯8
Anthropic封禁1140万个账号
本文爆料Anthropic风控动态,上半年封禁1140万疑似数据蒸馏账号,申诉胜诉率仅10%,大量正常用户被误杀,同时对比了中外大模型的使用体验差距。
探索AGI