「自回归顺序」共找到 1248 篇相关文章
中学生就能看懂：从零开始理解LLM内部原理【十二】｜位置嵌入 - 给模型装上"GPS"
文章指出Transformer对词顺序不敏感，引出位置嵌入概念。介绍经典的函数编码、可学习位置嵌入法及新主流RoPE，还提及为让模型处理长文本，在RoPE基础上用PI和YaRN等扩窗技巧。
中国芯片迎来关键一战
自2020年华为麒麟芯片断供，中国芯片加速自主研发，2025年末集体冲刺上市。如摩尔线程、沐曦股份等，虽多数亏损，但市值狂飙。不过，国产GPU面临技术、生态等挑战，崛起需漫长蛰伏与突破。
普林斯顿大学等Nature揭秘：人类大脑与大语言模型共享同一套语言处理时钟
普林斯顿大学等机构研究发现，大语言模型层级计算序列精确映射人类大脑处理语言的毫秒级时间动态，其与人类大脑理解语言的先后顺序高度一致，为理解大脑和开发神经网络架构开辟途径。
DeepSeek 模型技术之旅：从 V3 到 V3.2
本文深入剖析了 DeepSeek 模型从 V3 到 V3.2 的技术演进，对比了基座与推理模型，介绍了架构、训练方法变化，如 V3.2 结合 MLA 与 DSA，更新奖励和 GRPO 算法，还提及 V3.2-Speciale 扩展思考特性。
2M大小模型定义表格理解极限，清华大学崔鹏团队开源LimiX-2M
大语言模型在结构化表格数据处理上表现不佳，清华大学崔鹏团队开源的 LimiX-2M 模型，仅 2M 参数，却能同时支持分类、回归等任务，性能超越经典模型，且训练、运行成本低，科研友好。
堪比金条，存储迎来三十年未见的涨价潮
全球存储现缺货涨价潮，由云服务供应商采购推动。自2025年3月起，存储产品价格持续上涨，预计开启数年“超级周期”。AI火热与原厂技术迭代催化涨价，内存条成“理财佳品”，也催生“国产替代”需求。
中国算力芯片的“新十年”
文章指出过去40年处理器芯片发展呈“否定之否定”，近年整机和平台厂商重归自研，异构计算成趋势。未来中国算力芯片突破口在指令系统结构统一，可把RISC - V作统一指令系统开发各类芯片。
OpenAI 首款AI浏览器发布 —— ChatGPT Atlas ｜附实测
OpenAI发布首款AI原生浏览器ChatGPT Atlas，自带记忆和Agent能力，有chatgpt侧边栏、光标一选就改写等功能，目前仅发布macOS版，后续将推多版本，Agent模式付费且为预览版。
Claude Skills，4000字详解 Anthropic 的思考
Anthropic推出新技能Claude Skills，作者认为它会引导第三方工具形态。Skills结合笔记式形态、可执行工具与AI调度自优化，具备低门槛、灵活表达等优势，还实现了AI自我进化，是一种新范式。
GPT-6 或有"生命"！MIT新作实现LLM自我进化，冻结权重时代终结
MIT新作《Self-Adapting Language Models》实现LLM自我进化，SEAL框架让模型自己生成“自编辑”微调自身。它能实时学新数据、修复知识、形成记忆。经两种场景验证，小模型也能超越GPT - 4.1等。