「线性布局」共找到 432 篇相关文章
让NCCL性能起飞的symmetric memory是啥黑科技?— part2
本文是NCCL 2.27新特性系列的第二部分,主要分析symmetric primitives的实现机制,介绍其提供的接口,如获得symmetric ptr、barrier、send、recv、llEpoch控制等接口,还解析了底层结构内存布局、各接口工作机制及LL Buffer划分机制等。
刚刚,小红书开源了首个多模态大模型dots.vlm1,性能直追SOTA!
小红书人文智能实验室(hi lab)低调开源视觉语言模型dots.vlm1。该模型基于自研视觉编码器构建,在视觉理解和推理任务上接近SOTA水平,实测表现惊艳,还介绍了其技术架构、预训练数据布局等内容。
他留下最后一句话是:请勿打扰
本文讲述了尼古拉·特斯拉的传奇一生,包括他与爱迪生的「电流战争」、发明交流感应电动机等。还介绍了以他名字命名的特斯拉汽车,以及马斯克基于此在AI领域的布局,如创立OpenAI、xAI等,如今正进行AI战争。
小米小爱同学:资源受限下,实现端侧大模型的高性能推理
InfoQ对话小米小爱同学端侧AI负责人杨永杰,了解其团队在资源受限的端侧设备实现大模型高性能推理的策略。目前端侧大模型商业化落地慢,团队提前布局,自研框架,实现超180 tokens/s推理速度,还分享未来突破方向。
跳过“逐字生成”!蚂蚁集团赵俊博:扩散模型让我们能直接修改Token | MEET2026
在量子位MEET2026智能未来大会上,蚂蚁集团赵俊博称扩散架构能直接修改控制token,理论上速度更快、成本更低。他团队押注扩散架构,近期开源千亿规模LLaDA 2.0。该领域虽处早期,但发展快,吸引众多巨头和初创公司布局。
AGI新技术路线:下一代稀疏注意力机制Monte Carlo Attention开源
超对称技术公司开源了 Monte Carlo 注意力机制,用于新版基座模型 BigBang - Proton。它在二进制块编码技术上,用块间代表交流机制实现线性复杂度,解决了传统方法的缺点,可实现理论上无限的上下文长度,对现有预训练技术和硬件设计影响深远。
小扎豪掷143亿,却换不来AI燃料!数据之争下半场,中国冲出一匹黑马
2025年大模型高速进化,全球AI圈“数据大战”激烈。小扎花143亿抢占数据制高点却遇问题,马斯克裁员转招“专业AI导师”。中国澳鹏数据崛起,上半年营收3.06亿,有五大技术平台,未来目标2030年前中国区营收超20亿。
马斯克用恐怖算力,堆出6万亿参数性能怪兽Grok 5!剑指AGI
马斯克以Grok为核心推进xAI,从算力、数据到产品生态全面布局通往AGI的道路。Grok迭代迅速,有独特研发哲学。X平台数据、特斯拉算力成资源护城河,Grok还将进入特斯拉汽车。但Grok成长中也有争议,xAI在探索中前行。
蚂蚁首次投向机器人“指尖”!数亿元押注,全球首个物理交互脑发布
8月11日,戴盟机器人完成数亿元战略轮融资,由蚂蚁集团领投。蚂蚁此前已在具身智能赛道多处布局,此次是首次延伸至触觉感知层。戴盟推出全球首个“物理交互脑”,有稀缺团队支撑,多方面获产业支持且多项指标全球领先。
欲取代transformer的SSA(次平方稀疏注意力)解读
文章解读了欲取代Transformer的SSA(次平方稀疏注意力)算法。它支持12M tokens上下文,比fastAttention快52倍,训练和推理更快。SSA改变了注意力扩展特性,有计算和内存线性扩展等特性,经三阶段训练可可靠利用长上下文。