「架构突破」共找到 2637 篇相关文章
线性注意力回归！Kimi新模型引爆，MiniMax却悄悄换回传统架构
LLM领域线性注意力机制正在回归，工程实践主要由国产模型推进。早期线性注意力因牺牲精度未获主流认可，今年下半年多个国产模型采用其变体，MiniMax却又换回传统架构，Kimi新模型带来新解法。
个人开发者训400亿参数大模型：分布式算力，DeepSeek架构，3090单卡部署
Nous Research推出Psyche Network，可整合全球算力训练AI。它基于Deepseek的V3 MLA架构，有DisTrO优化器等技术，能让个人和小团体创建大规模模型，还实现40B参数LLM预训练。
当代码遇上大模型：智能编程助手的架构设计与工程实践
在 InfoQ 举办的 QCon 全球软件开发大会上，字节跳动段潇涵介绍如何基于大语言模型构建智能编程助手。他分享实践经验，剖析研发痛点，介绍技术架构，还探讨未来发展方向，如认知增强、工具整合等。
震撼全网，AlphaEvolve矩阵乘法突破被证明为真！开发者用代码证实
开发者用Claude写代码证实谷歌DeepMind的AlphaEvolve求解矩阵乘法的突破为真，它将4×4复数矩阵计算次数从49次减到48次。小哥测试代码各项指标与论文报告一致，还上传到GitHub。
你要做旁观者，还是定义者？中关村两院全球寻找「AI时代架构师」
中关村两院（北京中关村学院与中关村人工智能研究院）一体两院、融合发展，现全球招募AI时代架构师，包括领军人才、青年科学家、应届博士/博后等，介绍了招聘方向及优厚待遇，还将召开人才闭门交流会。
奥特曼宣判Transformer死刑！ AGI两年内降临，下一代架构已在路上
奥特曼在访谈中表示未来将有全新底层架构取代Transformer，还称AGI两年内降临，编程智能体是下一个引爆点。他回忆OpenAI草创期，还给出诸多判断，“后Transformer”竞赛也已打响。
用MoE打造DNA基础模型更强范式！人大实现seq2func全新突破
中国人民大学团队提出SPACE模型，通过引入物种感知编码器和谱系分组增强解码器，革新架构，提升了DNA基础模型性能与泛化能力，在多项测试中表现优于主流模型。
13人干翻Transformer！新架构SSA算力暴减千倍，成本仅Opus 5%
一款基于SSA架构的AI模型SubQ横空出世，其上下文高达1200万Token，计算量比Transformer暴减1000倍，成本不到Claude Opus的5%。打造它的Subquadratic公司仅13人，产品发布后引发AI社区不同反应。
首创双NPU架构一鸣惊人！联发科天玑9500重磅加码主动式AI体验
联发科天玑9500首创超性能+超能效双NPU架构，让AI始终在线，融入用户操作。其输出性能、上下文窗口等有显著提升，还解决了模型加载慢等问题，与多厂商合作推动端侧AI落地。
Transformer死角，只需500步后训练，循环模型突破256k长度泛化极限
线性循环模型能处理极长序列，是相比Transformer的关键优势，但过去循环模型性能不足且难以泛化。CMU等研究者证明，通过简单训练干预，循环模型500步后训练可突破256k长度泛化极限。