「分布式训练加速库」共找到 2703 篇相关文章
博士宿舍激情脑暴，革新了Scaling Law？Qwen和浙大联手推出新定律，直接干掉95.5%推理内存！
近日，阿里与浙大合作提出并行计算缩放定律 ParScale，可在不增参数下提升大模型能力，推理效率更高。它通过引入并行流实现，在数学、编程等任务表现佳，适合边缘设备，代码已开源。
九成以上模型止步白银段位，只有3个铂金！通用AI下半场评测标准来了
OpenAI研究员姚顺雨提出AI发展步入新阶段，下半场关键在评估模型真实智能。新加坡国立大学等团队提出“通才智能”评测框架，剖析多模态大模型短板，推出五级评估体系和测试集，测试结果暴露模型弱点，引发社区积极反响。
Qwen突破：用「并行计算」代替「堆参数」，新方法内存降22倍、延迟降6倍
LLM进化依赖「堆参数」，存在训练成本高、推理慢等问题。论文提出ParScale，用「并行计算」代替「堆参数」，让模型「分头思考」，推理效率提升22倍，旧模型也能改造，落地价值大。
智源技术分享：大模型行业应用新模式和关键实现路径
在 AICon 大会上，智源研究院周华分享大模型行业应用。分析落地问题，提出以大模型为核心的技术路径，涵盖数据、训练等环节，还给出数据生产流程建议，分享最新开源成果。
以星为舵：LLM的Post-Train与Rest-Time奖励学习综述
这篇论文提出奖励信号像AI的“导航星”，引导模型优化行为。介绍奖励学习概念、来源、形式和策略，阐述其贯穿LLM生命周期的三个阶段，探讨奖励模型设计选择，还提及实际应用、挑战与未来方向。
英伟达半数打工人身家过亿！难怪离职率低
一份调查显示英伟达约半数员工身家超2500万美元，超78%超百万美元。管理层富翁数字更惊人，公司离职率仅3.7%。其造富源于员工持股和限制性股票计划，近期又宣布芯片量产。
Agent的上限，可能不在模型，而在团队知识
文章记录安全中心团队搭建AI知识体系的实践，指出Agent输出质量取决于知识质量，分析传统知识库问题，介绍AI时代知识库转变、目标设定、搭建步骤、知识飞轮及避坑指南，还展示建设后的变化。
具身智能的「ChatGPT时刻」还没到，科沃斯先把机器人拆开了
科沃斯将旗下具身智能机器人“八界”开源，成立“八界开源智创空间”，开放从硬件到底层系统的使用权限。该机器人由轮式底盘加机械臂构成，科沃斯董事长钱东奇不看好人形及VLA技术路线。
强化学习没作用？人大DelTA精准识别关键token，推理正确率大幅上升
人大高瓴研究团队提出DelTA算法，不依赖经验为强化学习目标中每个token算最优权重。实验显示它适配主流强化框架，在多任务上提升base模型效果，还能让训练更稳定。
AI光通信还能火多久？股价暴涨10倍，Lumentum称订单已经排到了5年后
随着AI数据中心建设加速，光通信成AI基础设施增长最快环节。Lumentum作为光通信核心器件龙头，订单排到5年后，股价涨幅超1000%。AI光通信需求旺，但激光器产能紧，英伟达等纷纷布局。