「后Transformer架构」共找到 3687 篇相关文章
一句话生成任务专属LoRA!Transformer作者创业公司颠覆LLM微调
Transformer作者之一创立的SakanaAI推出Text-to-LoRA(T2L),简化模型适配流程,省却繁琐微调。T2L参数压缩率达80%仅降1.2%准确率,零样本场景平均准确率78.3%超现有SOTA方法,开启“一句话定制模型”时代。
从deepseek v4的受限流线型超链接mHC谈架构优化
文章围绕DeepSeek v4的受限流线型超链接mHC探讨架构优化。指出过去十年深度学习重扩展层内计算,忽视层间通信。介绍多种层间通信改进方法,提出用检索替代累加,还提及深度注意力机制及混合深度注意力的成果。
烧了2000美金后,我发现Vibe Coding“已死”!
作者黄叔分享科研成果Spec Coding,称Vibe Coding已死,因其Prompt易逝、迭代混乱。Spec Coding复杂度高于提示词工程,文中给出从0到1及迭代的提示词和步骤,还提及额外好处及理念特性。
DeepSeek-R1发布后的100天复现之旅方法总结
DeepSeek团队发布「推理大模型」DeepSeek-R1 ,其技术细节未完全开源,全球研究团队开启“复现竞赛”。论文总结100天复现经验,介绍推理大模型与普通大模型区别、复现方法、关键发现及未来方向。
清华姚班大神陈立杰,联手00后逆向破局!颠覆50年计算机难题
50年来,顶尖科学家死磕「旅行商问题」等计算机复杂性难题无果。清华姚班陈立杰等人在《Reverse Mathematics Below the Turing Jump》论文中,采用「逆向数学」方法,发现许多理论底层逻辑等价,颠覆千年思维范式。
刚刚,DeepSeek 突发梁文锋署名新论文:V4 新架构提前曝光?
今天凌晨,DeepSeek在GitHub开源新论文与模块Engram,论文提出“查—算分离”机制,通过可扩展查找记忆结构提升模型表现。Engram将记忆与计算职责分离,或成V4核心技术,获网友肯定。
用Rust重写OpenClaw,Transformer作者下场造了安全版「龙虾」
Transformer八子之一Illia Polosukhin用Rust构建安全版OpenClaw——IronClaw。他指出OpenClaw有数据和资金安全风险,IronClaw以安全为核心,有多项安全设计,未来还会增加策略验证等能力。
Cursor 浏览器翻车后,这个团队做出AI规模化高可靠软件工厂
Cursor用AI构建浏览器失败后,MoonBit团队用新路线,10天生成商业级C编译器。其语言设计、AI安全重构、工具链等方面优势明显,还支持多种后端,有望推动软件工程迈向自动化。
从数据到决策:AI 驱动的 Quick BI 架构设计与实践
阿里云智能集团瓴羊高级技术专家王璟尧,介绍阿里云 Quick BI 从传统 BI 到 AI 驱动的智能 BI 的进化,解析领域大模型与 BI 引擎协同设计等技术权衡,为行业提供可复用技术范式。
LLM近期重大架构进化一览:从Gemma 4到DeepSeek V4
近期大模型长上下文需求增长,成本问题凸显。Google Gemma 4、Poolside Laguna XS.2、Zyphra ZAYA1 - 8B、DeepSeek V4 等模型各有架构优化,如 Gemma 4 跨层 KV 共享和 PLE,以降低长上下文推理成本。