「AI 优化器」共找到 10610 篇相关文章
Meta华人新秀毕树超,重磅爆料下一代LLM路线!RL+预训练直通AGI
OpenAI前研究员、Meta成员毕树超在哥大演讲指出,AGI需高质数据、好奇驱动探索与高效算法,Scaling Law有效,规模决定智能,终身学习是重点,还探讨了AGI面临的诸多问题与挑战。
共青年之智,铸AGI未来|2025 WAIC云帆奖得主名单揭晓
2025年7月27日,2025 WAIC云帆奖颁奖典礼在上海举行,公布了「璀璨明星」「明日之星」及提名奖得主名单。活动由多机构联合主办,汇聚产学研资力量,众多知名人士出席颁奖。文章还介绍了各位得主的成就。
1w颗星!多平台 LL M 聊天机器人及开发框架AstrBot!
AstrBot是聊天机器人及开发框架,松耦合、异步,支持多消息平台部署。它功能丰富,支持多种大语言模型,有Agent能力、插件扩展等,还介绍了多种部署方式、平台及提供商支持情况。
0.016%参数撬动18%性能:关键表征微调破解LLM推理瓶颈
大语言模型在推理任务依赖思维链技术,传统PEFT方法需修改大量参数,新兴ReFT虽只需调整少量参数,但存在不足。本文提出CRFT,仅用0.016%参数量就提升性能,为轻量化推理增强开辟新路径。
如何利用pytorch memory snapshot进行显存分析
文章聚焦于用pytorch memory snapshot分析模型训推显存消耗,不讨论工具使用,侧重解读记录内容。以混合精度训练为例,介绍各步骤显存管理细节,还给出单层、双层模型及zero1训练的显存分析。
2025 上半年具身智能融资复盘:金额超 200 亿、头部收敛趋势明显、传统制造业巨头增多
2025上半年具身智能融资火热,截至7月16日融资事件130件,预估总融资超200亿。资本从大模型转向具身智能,且向头部企业聚拢,大厂与传统制造巨头积极投资,不过行业仍处早期,上市前景待察。
最新 AGI 暴论:强化学习的「GPT-3 时刻」实现,还需要 1 万年?
国外AI初创公司Mechanize三位创始人联合撰文称,RL或迎“GPT - 3时刻”,但需数千至上万年“模型处理任务所用时间”训练。还提出“复制训练”新范式,能磨炼模型能力,补足短板。
阿里深夜开源王炸Agent!硬刚OpenAI,性能全面SOTA!
过去半年,开源Agent在解决复杂难题时难敌OpenAI。昨天阿里通义开源WebSailor模型,用完整可复现方法论挑战闭源霸权,通过构造L3合成数据、取精华训练轨迹、两步走训练策略提升性能。
Transformer死角,只需500步后训练,循环模型突破256k长度泛化极限
线性循环模型能处理极长序列,是相比Transformer的关键优势,但过去循环模型性能不足且难以泛化。CMU等研究者证明,通过简单训练干预,循环模型500步后训练可突破256k长度泛化极限。
Karpathy最新脑洞「细菌编程」:优秀的代码应该具备细菌的三大特质
大神Karpathy提出“细菌编程”新概念,代码要有小而精、模块化、自包含且易复制粘贴的特点,让开源社区发展。他还提出过“软件3.0”“氛围编程”等概念,这些脑洞或成未来编程范式信号。