后Transformer架构」共找到 3687 篇相关文章

新闻资讯8

一句话生成任务专属LoRA!Transformer作者创业公司颠覆LLM微调

Transformer作者之一创立的SakanaAI推出Text-to-LoRA(T2L),简化模型适配流程,省却繁琐微调。T2L参数压缩率达80%仅降1.2%准确率,零样本场景平均准确率78.3%超现有SOTA方法,开启“一句话定制模型”时代。

量子位
算法论文7

从deepseek v4的受限流线型超链接mHC谈架构优化

文章围绕DeepSeek v4的受限流线型超链接mHC探讨架构优化。指出过去十年深度学习重扩展层内计算,忽视层间通信。介绍多种层间通信改进方法,提出用检索替代累加,还提及深度注意力机制及混合深度注意力的成果。

Agent的潜意识
开源动态7

烧了2000美金,我发现Vibe Coding“已死”!

作者黄叔分享科研成果Spec Coding,称Vibe Coding已死,因其Prompt易逝、迭代混乱。Spec Coding复杂度高于提示词工程,文中给出从0到1及迭代的提示词和步骤,还提及额外好处及理念特性。

AI产品黄叔
开源动态8

DeepSeek-R1发布的100天复现之旅方法总结

DeepSeek团队发布「推理大模型」DeepSeek-R1 ,其技术细节未完全开源,全球研究团队开启“复现竞赛”。论文总结100天复现经验,介绍推理大模型与普通大模型区别、复现方法、关键发现及未来方向。

深度学习自然语言处理
新闻资讯8

清华姚班大神陈立杰,联手00逆向破局!颠覆50年计算机难题

50年来,顶尖科学家死磕「旅行商问题」等计算机复杂性难题无果。清华姚班陈立杰等人在《Reverse Mathematics Below the Turing Jump》论文中,采用「逆向数学」方法,发现许多理论底层逻辑等价,颠覆千年思维范式。

新智元
开源动态8

刚刚,DeepSeek 突发梁文锋署名新论文:V4 新架构提前曝光?

今天凌晨,DeepSeek在GitHub开源新论文与模块Engram,论文提出“查—算分离”机制,通过可扩展查找记忆结构提升模型表现。Engram将记忆与计算职责分离,或成V4核心技术,获网友肯定。

InfoQ
开源动态7

用Rust重写OpenClaw,Transformer作者下场造了安全版「龙虾」

Transformer八子之一Illia Polosukhin用Rust构建安全版OpenClaw——IronClaw。他指出OpenClaw有数据和资金安全风险,IronClaw以安全为核心,有多项安全设计,未来还会增加策略验证等能力。

机器之心
推荐文章8

Cursor 浏览器翻车,这个团队做出AI规模化高可靠软件工厂

Cursor用AI构建浏览器失败,MoonBit团队用新路线,10天生成商业级C编译器。其语言设计、AI安全重构、工具链等方面优势明显,还支持多种端,有望推动软件工程迈向自动化。

InfoQ
推荐文章8

从数据到决策:AI 驱动的 Quick BI 架构设计与实践

阿里云智能集团瓴羊高级技术专家王璟尧,介绍阿里云 Quick BI 从传统 BI 到 AI 驱动的智能 BI 的进化,解析领域大模型与 BI 引擎协同设计等技术权衡,为行业提供可复用技术范式。

InfoQ
新闻资讯8

LLM近期重大架构进化一览:从Gemma 4到DeepSeek V4

近期大模型长上下文需求增长,成本问题凸显。Google Gemma 4、Poolside Laguna XS.2、Zyphra ZAYA1 - 8B、DeepSeek V4 等模型各有架构优化,如 Gemma 4 跨层 KV 共享和 PLE,以降低长上下文推理成本。

机器之心