「华文越」共找到 93 篇相关文章
82岁退休的他,带出一系千亿级科技巨头
本文讲述了李国杰带领团队研发超算,创立中科曙光的历程。从“曙光一号”打破国外禁运,到中科曙光在芯片、智算等领域全面发展,虽遭美国制裁仍越打越强,李国杰82岁功成身退。
国科大 | 提出进化算法:EvolKV,自适应分配KV Cache,预算降至1.5%!
键值缓存(KV cache)是大模型快速运行核心技术,但输入文本越长,存储和处理问题越突出。国科大提出进化算法EvolKV,自适应分配KV Cache,实验显示其效果显著,预算可降至1.5%。
英伟达笑到最后!训练2000步,1.5B逆袭7B巨兽,Scaling真来了
英伟达团队提出ProRL训练法,将强化学习扩展到超2000步。用此方法训练的15亿参数模型媲美70亿参数的Deepseek - R1 - 7B,在多任务中表现出色,解决了熵崩溃和训练不稳定问题。
分析1.8亿份招聘数据后,他告诉你AI究竟取代了哪些工作
本文分析1.8亿份全球招聘信息,发现AI不是造成大规模失业主因,影响因岗位而异。创意执行类岗位下降多,AI基建岗位增长,程序员、客服、销售较稳定,高层受冲击小,还给出评估岗位安全的建议。
用 LLM Wiki 给自己搭一个会越用越值钱的第二大脑
这是基于Andrej Karpathy的LLM Wiki模式构建的开源项目,能方便实现第二大脑。上传资源后Claude会主动提取实体、建立概念网络,知识会‘自己生长’,用得越久边际价值越高。还介绍了安装及使用方法。
能进化的Skill,才是好Skill~
2026年,我们追求“越干越好”的Agent。AutoSkill和XSKILL两篇论文指出,静态的Skill只是高级Prompt,能自我进化的Skill才是真正的数字资产,还介绍了两者的设计、优势及未来Skill的标准形态。
MoE RL 实战:统一 FP8 全流程训练
SGLang RL 团队等实现 RL 全流程 FP8 训练与采样,消除训推不一致性。介绍 FP8 硬件基础、格式等,分析训练难点,定位 KL Loss 异常源于量化原理,验证其在 MoE 模型 RL 场景优势,指出模型规模与训推不一致的关联。
Nanbeige4.2-3B:探索通用Agent小模型
在模型越做越大的当下,推理成本成了影响Agent大规模使用的关键因素。南北阁实验室推出Nanbeige4.2 - 3B,在架构、数据构造和训练pipeline层面做了系统工作,评测表现良好,还探索本地个人助手等应用。
让NCCL性能起飞的symmetric memory是啥黑科技?— part2
本文是NCCL 2.27新特性系列的第二部分,主要分析symmetric primitives的实现机制,介绍其提供的接口,如获得symmetric ptr、barrier、send、recv、llEpoch控制等接口,还解析了底层结构内存布局、各接口工作机制及LL Buffer划分机制等。
【博客转载】CUDA Vectorized Memory Access (文末送书)
文章展示如何用向量化内存访问提高CUDA函数有效内存带宽,实现朴素自定义设备内存拷贝函数,对比不同数据类型、大小及方法的性能,得出拷贝数据单元多、单元大及以8或16字节向量化单元拷贝可提升带宽等结论。