「连续自回归」共找到 1311 篇相关文章
为训推加速!全新FlashQLA注意力算子库开源
自Qwen3-Next发布,GDN成Qwen主力注意力层,随模型规模扩大开销增大。现开源FlashQLA算子库,融合优化GDN Chunked Prefill前反向算子,在NVIDIA Hopper上多场景加速,提升预训练和端侧推理效率。
10秒视频token超5万,O(n²)跑不动?用后训练线性化框架实现1.71倍加速,推理成本大降|CVPR'2026
视频生成进入大规模时代,但计算成本高,自注意力复杂度O(n²)跑不动。研究团队提出LINVIDEO后训练框架,无需数据和重新预训练,实现视频扩散模型线性化替换,保持生成质量,加速推理并降低成本。
顶级工程师Karpathy的“AI革命”:一个月前还在焦虑“落后”,如今“20年古法编程习惯”被彻底颠覆,80%代码已交给AI!
顶级工程师Andrej Karpathy分享用Claude编程心得,称过去20年编程方式在几周内改变,12月约80%代码交agent,自己做20%修改。Claude和Codex在2025年12月跨过‘一致性/连贯性门槛’,让agent编程可行。
Google 新论文离谱到家了,0延迟0成本通用,提升大模型准确率最简单的方法。
Google新论文提出简单提升大模型准确率的方法,即重复提示词,把完全一致的输入连续发2次。主流模型适用,经70项benchmark测试,0场景效果倒退,47个场景准确率提升,且几乎不增延迟、成本。
刚刚,智谱港交所敲钟!市值528亿港元
智谱在港交所敲钟上市,成全球首家AGI基座模型上市公司,首日市值超528亿港元。其IPO受热捧,资本阵容强大。新一代模型GLM - 4.7表现出色,营收增长快,大部分资金用于研发,标志中国大模型迈向全球竞技。
中国芯片迎来关键一战
自2020年华为麒麟芯片断供,中国芯片加速自主研发,2025年末集体冲刺上市。如摩尔线程、沐曦股份等,虽多数亏损,但市值狂飙。不过,国产GPU面临技术、生态等挑战,崛起需漫长蛰伏与突破。
DeepSeek 模型技术之旅:从 V3 到 V3.2
本文深入剖析了 DeepSeek 模型从 V3 到 V3.2 的技术演进,对比了基座与推理模型,介绍了架构、训练方法变化,如 V3.2 结合 MLA 与 DSA,更新奖励和 GRPO 算法,还提及 V3.2-Speciale 扩展思考特性。
2M大小模型定义表格理解极限,清华大学崔鹏团队开源LimiX-2M
大语言模型在结构化表格数据处理上表现不佳,清华大学崔鹏团队开源的 LimiX-2M 模型,仅 2M 参数,却能同时支持分类、回归等任务,性能超越经典模型,且训练、运行成本低,科研友好。
堪比金条,存储迎来三十年未见的涨价潮
全球存储现缺货涨价潮,由云服务供应商采购推动。自2025年3月起,存储产品价格持续上涨,预计开启数年“超级周期”。AI火热与原厂技术迭代催化涨价,内存条成“理财佳品”,也催生“国产替代”需求。
中国算力芯片的“新十年”
文章指出过去40年处理器芯片发展呈“否定之否定”,近年整机和平台厂商重归自研,异构计算成趋势。未来中国算力芯片突破口在指令系统结构统一,可把RISC - V作统一指令系统开发各类芯片。